Naukowcy sprawdzili, skąd się biorą błędne lub agresywne odpowiedzi chatbotów
Dlaczego duże modele językowe udzielają czasem błędnych, szkodliwych lub agresywnych odpowiedzi? Nawet ich bardzo wąskie i pozornie kontrolowane modyfikacje mogą prowadzić do nieprzewidzianych skutków ubocznych - wynika z publikacji w Nature. Jedną z jej autorek jest badaczka Politechniki Warszawskiej.
-
Osobowość chatbotów AI można mierzyć i celowo zmieniać
Naukowcy z Uniwersytetu w Cambridge i Google DeepMind opracowali pierwszy naukowo potwierdzony test osobowości dla chatbotów AI. Pokazali, że modele językowe nie tylko naśladują ludzkie cechy, ale że ich osobowość można badać i precyzyjnie kształtować, co rodzi pytania o bezpieczeństwo i kwestie etyczne.
-
Badanie: rozmowa z chatbotem może wpływać na polityczne decyzje wyborców
Chatboty oparte na sztucznej inteligencji mogą realnie wpływać na postawy wyborców i robią to skuteczniej niż tradycyjne reklamy polityczne. Nawet krótka rozmowa z modelem językowym może przesunąć preferencje wyborcze o kilka punktów procentowych - pokazuje badanie z udziałem dr Gabrieli Czarnek z UJ.
-
Ekspertka: uczłowieczanie chatbotów spowoduje transformację systemu wartości
Dzieci dorastają w kulturze algorytmicznej, która cechuje się m.in. regularnym kontaktem z chatbotami zasilanymi modelami sztucznej inteligencji. Jak zauważa dr Ada Florentyna Pawlak, postępujące uczłowieczanie tych narzędzi może przetransformować system wartości młodego pokolenia.
-
Inteligentne chatboty są zbyt pewne siebie
Duże modele językowe sprawiają wrażenie pewnych siebie, nawet gdy podają niewłaściwe informacje - wykazało nowe badanie. To może ułatwiać im wprowadzanie w błąd, tymczasem ich wykorzystanie rośnie lawinowo.
-
Udany test chatbota - psychoterapeuty
Testy terapeutycznego chatbota wykazały, że sztuczna inteligencja może zapewnić „złoty standard” opieki psychoterapeutycznej w leczeniu zaburzeń psychicznych, na przykład depresji - informuje pismo „NEJM AI”.
-
Chatboty mówią nam to, co chcemy usłyszeć
Chatboty podają ograniczone informacje i wzmacniają postawy ideologiczne osób zadających pytania; mogą przez to prowadzić do bardziej spolaryzowanego myślenia w kontrowersyjnych kwestiach - wykazali naukowcy z Johns Hopkins University.
-
Chatbot Rose: osobliwość pojawi się, kiedy tylko tego zechcę
Osobliwość - punkt w rozwoju cywilizacji, po którym niczego już nie będzie się dało przewidzieć - pojawi się kiedy tylko tego zechcę - mówi w rozmowie z PAP chatbot Rose, laureatka Nagrody Loebnera za rok 2015. To konkurs dla programów komputerowych, z którymi można pogadać jak z ludźmi, sprawdzian sztucznej inteligencji.
Najpopularniejsze
-
Zioło-Pużuk: koniec z gonitwą za punktami, liczyć się będzie poziom badań i jakość miejsca pracy
-
Popularyzatorzy Nauki poszukiwani! Ruszają zgłoszenia do prestiżowego konkursu
-
Archeolodzy chcą rozwikłać sekret szkieletów w domu Göringa w Wilczym Szańcu
-
Walka z dezinformacją ma być ustawową rolą uczelni. Prof. Jemielniak: ucierpią badania ryzykowne
-
Badaczka: sinice zakwitły w tym roku wyjątkowo wcześnie; to efekt dużych upałów
-
W końcu wieku w wielkich miastach będzie mieszkało 38 proc. wszystkich ludzi
-
Odkryto, dlaczego z wiekiem przybywa tłuszczu na brzuchu
-
Brak aktywności fizycznej to systemowa porażka, a nie tylko kwestia stylu życia
-
Im więcej wypijamy kawy, tym mniejsze ryzyko poważnych schorzeń wątroby
-
Pobliska superziemia może się nadawać do życia lepiej niż sądzono
Egipt/ Prehistoryczni twórcy petroglifów świadomie niuansowali przedstawianą rzeczywistość
Prehistoryczni twórcy petroglifów z Oazy Dachla przedstawiali relacje ludzi i zwierząt na co najmniej dwa sposoby. Wyolbrzymione postacie harmonijnie współistnieją ze zwierzętami, zaś zupełnie inne pojawiają się w scenach polowań. Z analizy wynika, że świadomie opowiadano o różnych aspektach rzeczywistości.
