Osnivač veštačke inteligencije upozorava na opasnosti: „Naučili smo da lažemo i varamo“

Jedan od „kumova“ veštačke inteligencije kritikovao je trku vrednu više milijardi dolara za razvoj najsavremenije tehnologije, rekavši da najnoviji modeli pokazuju opasne karakteristike poput laganja korisnika, izveštava The Financial Times.

Jošua Benđo, kanadski naučnik čiji je rad, bio osnova metoda koje koriste vodeće grupe za veštačku inteligenciju, vidi veliku opasnost u veoma konkurentnoj trci između vodećih laboratorija, koja ih primorava da se fokusiraju na načine da veštačku inteligenciju učine sve inteligentnijom, a da pritom ne posvećuju dovoljno pažnje ili ulaganja u istraživanje bezbednosti…

Dobitnik Tjuringove nagrade dao je svoje upozorenje u intervjuu za The Financial Times, kada je pokrenuo novu neprofitnu organizaciju, LouZero.

Rekao je da će se grupa fokusirati na izgradnju bezbednijih sistema, obećavajući da će „izolovati istraživanje od ovih, komercijalnih pritisaka“.

LouZero je do sada prikupio oko 30 miliona dolara u dobrotvornim, prilozima od donatora.

Mnogi Benđovi finansijeri se pridružuju pokretu „efektivnog altruizma“, čiji se zagovornici uglavnom fokusiraju na katastrofalne rizike koji okružuju modele veštačke inteligencije.

Kritičari tvrde da pokret ističe hipotetičke scenarije, dok ignoriše trenutne štete veštačke inteligencije, kao što su pristrasnost i netačnost.

Benđo kaže da je neprofitna grupa osnovana kao odgovor, na sve veće dokaze u proteklih šest meseci da današnji vodeći modeli veštačke inteligencije razvijaju opasne sposobnosti kao što su obmana informacijama, prevara, namerno laganje i samoodržanje.

Borba.Info