Billas Gatesas perspėjo, kad dirbtinis intelektas (DI) gali sukelti neįsivaizduojamo masto žalą, įskaitant „milijardą žmonių mirčių“. Šią grėsmę jis išdėstė interviu NBC, kurį prieš kelias dienas sulaukė didelio atgarsio. Gatesas pabrėžė, jog DI galia ir naujausių technologijų prieinamumas daro šią problemą ypač aktualią — ypač jei technologijos patektų į neteisingas rankas arba būtų naudojamos be tinkamų saugumo priemonių.
Ką reiškia „milijardas mirčių“?
Tokio masto scenarijus skamba drastiškai, tačiau ekspertai aiškina, kad rizika nėra vienalytė. DI gali būti panaudotas įvairiais kenksmingais būdais: automatizuoti biologinių agentų tyrimus, valdyti autonominius ginklus, žaibiškai kurti ir skleisti klaidinančią informaciją ar koordinuoti didelio masto kibernetines atakas. Net jei vienu metu neįvyktų globali katastrofa, kaskadinės sistemos gedimo ir socialinės krizės gali prisidėti prie daugybinių aukų.
Kaip Gatesas pažymėjo: „DI tikrai yra pakankamai galingas, kad paskatintų įvykius, kurie, na, žinote, galėtų lemti milijardo žmonių mirtį“. Ši citata atkreipia dėmesį į egzistencinę riziką, tačiau taip pat priverčia diskutuoti apie realius, labiau tikėtinus pavojus, kuriuos DI jau dabar sukuria visuomenės sveikatai, saugumui ir informacinei erdvei.
Reguliavimo poreikis ir konkretūs žingsniai
B. Gatesas ragina įsitraukti teisėsaugos institucijas ir politikus: „Niekas nemano, kad pakanka savireguliacijos.“ Toks argumentas remiasi tuo, kad komercinės įmonės ir mokslininkai negali vieni spręsti platesnių visuomeninių pasekmių be išorinio priežiūros ir atsakomybės mechanizmų. Reguliavimas galėtų apimti modelių testavimo standartus, prieigos kontrolę prie pažangiausių sistemų, aiškias atsakomybės nuostatas, licencijavimo tvarką ir tarptautinį bendradarbiavimą grėsmių neutralizavimui.
Be teisėkūros, reikalinga ir techninė priežiūra: išorinės audito komandos, privalomi saugos bandymai („red teaming“), modeliavimo ataskaitos ir skaidresnės duomenų tvarkymo praktikos. Taip pat svarbu investuoti į DI saugos mokslą, remti nepriklausomas rizikos vertinimo institucijas ir apsaugoti žvalgų bei pranešėjų teises, kurie atskleidžia piktnaudžiavimą.
Pramonės reakcija ir visuomenės diskusija
Diskusijos dėl DI reguliavimo paspartėjo po kelių kibernetinių incidentų ir viešų problemų, dėl kurių kai kurios įmonės pareiškė esąs pasirengusios sulėtinti technologijos plėtrą. Tai rodo, kad pramonė pripažįsta rizikas, tačiau visuomenės lūkesčiai ir politikos sprendimai lemia, ar imtasi pakankamų veiksmų.
Galutinė žinia — reikia subalansuoto požiūrio: skatinti inovacijas, bet kartu kurti tvirtus saugos tinklus, tarptautines taisykles ir nuolatinę priežiūrą. Kitaip tariant, technologijų pažanga turi vykti kartu su atsakomybe, kad išvengtume scenarijų, apie kuriuos įspėja patyrę lyderiai.
