Długoterminowe ludzkie wspomnienia tworzą się podczas snu i śnienia. Jak się okazało, efekt ten może być inspiracją dla naśladującej działanie mózgu, lepiej działającej sztucznej inteligencji.

Obecne modele sztucznej inteligencji wyszkolone do wykonywania nowego zadania tracą zdolność do wykonywania zadań, które wcześniej im się udawały. Choć model został wcześniej nauczony na przykład rozpoznawać ptaki - przestaje mu się to udawać, gdy przyswoi inną wiedzę, np. o rybach.

Concetto Spampinato i jego współpracownicy z Uniwersytetu w Katanii (Włochy) szukali sposobów na uniknięcie tego zjawiska, nazywanego "katastrofalnym zapominaniem" (catastrophic forgetting).

Dlatego opracowali nową metodę szkolenia sztucznej inteligencji, zwaną skonsolidowanym uczeniem się podczas czuwania i snu (WSCL), która naśladuje sposób, w jaki ludzki mózg trwale zapamiętuje nowe informacje podczas snu, przekształcając krótkoterminowe zapisy doświadczeń i lekcji przyswojonych w ciągu dnia w długoterminowe wspomnienia. Zdaniem naukowców w podobny sposób mogłaby działać każda istniejąca sztuczna inteligencja.

Modele korzystające z WSCL są szkolone w typowy sposób na zestawie danych dla fazy "czuwania", jednak zaprogramowano im również okresy "snu", podczas których analizują próbki danych dotyczących stanu czuwania oraz skróty z poprzednich lekcji.

Na przykład sztucznej inteligencji uczonej identyfikacji zwierząt morskich podczas "snu" pokazuje się zdjęcia ryb, ale także kilku ptaków czy ssaków z poprzednich lekcji. Według Spampinato przypomina to sytuację człowieka, który podczas snu rozmyśla o nowych i starych wspomnieniach, dostrzega powiązania i wzorce i integruje je w swoim umyśle. Nowe dane pozwalają nabywać nowe umiejętności, a część starych danych uniemożliwia wyparcie starych wspomnień przez nowe.

WSCL ma również okres "śnienia", kiedy wykorzystuje całkowicie nowe dane powstałe w wyniku połączenia poprzednich koncepcji. W przypadku zwierząt może "wymyślać" na przykład abstrakcyjne kombinacje żyraf z rybami czy lwów i antylop.

Jak wyjaśnia Spampinato (DOI: arXiv:2401.08623), zdobywając nową wiedzę, łączy się bardziej złożone wzorce – w tym wypadku dziwną mitologiczną postać, co zmusza model inteligencji do nauczenia się bardziej złożonych wzorów, które być może w przyszłości uda się ponownie wykorzystać.

Spampinato przetestował trzy istniejące modele sztucznej inteligencji, stosując tradycyjną metodę uczenia, a następnie szkolenie WSCL. Następnie on i jego zespół porównali wyniki, korzystając z trzech standardowych testów porównawczych do identyfikacji obrazu. Nowa technika szkolenia doprowadziła do znacznego zwiększenia dokładności identyfikacji obrazu – modelom wytrenowanym podczas "snu" udawało się to o 2 do 12 proc. częściej. Zwiększył się także odsetek starej wiedzy wykorzystywanej do nowych zadań. (PAP)

Paweł Wernicki

pmw/ zan/