Około 400 naukowców z 21 krajów, w tym pionierzy sztucznej inteligencji Geoffrey Hunton i Yosha Bengio, wezwało we wtorek do utworzenia międzynarodowego ciała, które nadzorowałoby obowiązujące dla całej branży standardy ograniczania zaawansowanych systemów AI oraz zgłaszania związanych z nią incydentów.
Zgodnie z propozycją naukowców powstałby rejestr poważnych incydentów dotyczących bezpieczeństwa AI, który zostałby upubliczniony.
Naukowcy wezwali do „natychmiastowych zmian” w praktyce rozwijania i stosowania AI, aby uniknąć przyszłych incydentów związanych z bezpieczeństwem.
W swym liście otwartym badacze oznajmili, że „przełomowe modele sztucznej inteligencji” powinny być w początkowej fazie fizycznie odcięte od sieci zewnętrznych i podlegać niezależnemu nadzorowi. Ich zdaniem dobrowolne zobowiązania podmiotów w branży nie wystarczą.
Według nich podmioty rozwijające lub testujące modele AI powinny natychmiast przyjąć standardy cyberbezpieczeństwa, zaś rządy zacząć pracować nad bardzo formalnym sposobem nadzoru.
Miesiąc temu czołowe firmy AI Nvidia, OpenAI, Google, Meta, xAI i Anthropic podpisały w Białym Domu porozumienie, w którym zobowiązują się do dobrowolnych posunięć zabezpieczających, bez formalnego mechanizmu narzucającego ich wdrażanie.
W ostatnim czasie doszło do serii incydentów, które ujawniły słabości sposobu testowania i kontroli zaawansowanych systemów AI, w tym przypadki, gdy agenty AI wydostawały się poza niewystarczająco zabezpieczone środowisko testowe i wchodziły w kontakt z systemami zewnętrznymi. (PAP)
mw/ kj/
Fundacja PAP zezwala na bezpłatny przedruk artykułów z Serwisu Nauka w Polsce pod warunkiem mailowego poinformowania nas raz w miesiącu o fakcie korzystania z serwisu oraz podania źródła artykułu. W portalach i serwisach internetowych prosimy o zamieszczenie podlinkowanego adresu: Źródło: naukawpolsce.pl, a w czasopismach adnotacji: Źródło: Serwis Nauka w Polsce - naukawpolsce.pl. Powyższe zezwolenie nie dotyczy: informacji z kategorii "Świat" oraz wszelkich fotografii i materiałów wideo.
