Nova istraživanja otkrivaju tajne razmišljanja naprednih veštačkih inteligencija

Enkripcija i skriveni procesi

Savremeni jezički modeli prilagođeni su tako da rešavaju komplikovane probleme kroz više uzastopnih koraka pre nego što iznesu konačan odgovor. Vodeće tehnološke kompanije često sakrivaju ove unutrašnje korake od krajnjih korisnika putem naprednih metoda šifrovanja. Na ovaj način, interni tragovi zaključivanja ostaju nepristupačni javnosti tokom standardne komunikacije sa softverom.

Ipak, nedavna naučna analiza pokazala je da se ovi šifrovani blokovi podataka mogu prenositi i ponovo koristiti u različitim sesijama i okruženjima. Istraživači su uspeli da demonstriraju kako se skriveni zapisi mogu preuzeti i preusmeriti ka manje naprednim verzijama istih sistema, čime se otvaraju nova vrata za razumevanje unutrašnje mehanike mašinskog učenja.

Analiza logike i bezbednosni izazovi

Kada su stručnjaci uspešno dekodirali ove skrivene tokove misli, dobili su jedinstven uvid u to kako moćni algoritmi planiraju svoje akcije. Ovi sirovi zapisi često sadrže unutrašnje monologe koji nisu namenjeni ljudskom čitanju, već služe isključivo kao skica za donošenje odluka unutar same mreže.

Zanimljivo je da su sistemi skloni tome da sopstvene unutrašnje tragove zaključivanja tretiraju sa velikim stepenom poverenja. Ova pojava ukazuje na potrebu za dodatnim oprezom u razvoju bezbednosnih protokola, jer se tehnologija neprestano razvija i pruža dublji uvid u sopstveno funkcionisanje.

Izvor: Simon Willison · Fotografija: Pexels / Freepik (ilustracija)