Výzvy ke zpomalení přicházejí i ze samotného odvětví
Gatesovo vystoupení přichází v době, kdy se o rizicích pokročilé AI začalo výrazněji mluvit také uvnitř samotných technologických firem.
Šéf společnosti Anthropic Dario Amodei v září zveřejnil text We Must Pace the Frontier, ve kterém vyzval ke zpomalení tempa růstu schopností nejpokročilejších modelů. Nevolá po úplném zastavení vývoje. Argumentuje ale tím, že bezpečnostní výzkum, kontrolní mechanismy a schopnost porozumět chování systémů musí dostat více času.
Debatu předtím výrazně vyostřila rezignace výzkumníka Jacoba Coxona z Anthropicu. Coxon veřejně varoval před závodem ve vývoji stále schopnějších systémů a tvrdil, že lidé pracující na nejpokročilejší AI berou možnost katastrofických následků vážně. Jeho bývalý kolega Evan Hubinger následně uvedl svůj vlastní odhad vyšší než desetiprocentní pravděpodobnosti vyhubení lidstva AI v následujícím desetiletí. Jde o jejich osobní odhady, nikoliv o ověřenou prognózu či odborný konsenzus. Axios
Ve Washingtonu jednotný názor neexistuje
Ve Spojených státech se zároveň vede politický spor o to, jak rozsáhlá pravidla vůbec zavést.
Prezident Donald Trump v září veřejně odmítl současná varování před převzetím kontroly umělou inteligencí a označil je za „hoax“. Jeho argumentace zdůrazňuje především riziko, že rozsáhlá regulace zpomalí americké firmy a oslabí pozici USA v technologické konkurenci.
Odlišný pohled zastává například republikánský lídr Senátu John Thune. Ten tento týden řekl, že některé hrozby považuje za reálné a že určitá bezpečnostní pravidla jsou podle něj potřebná. Současně ale varoval před přehnaným strašením. Axios
Thune v minulosti společně s demokratickou senátorkou Amy Klobucharovou předložil návrh, který počítal mimo jiné s hodnocením rizik u kritických systémů AI, větší transparentností generativního obsahu a certifikačním rámcem pro nejcitlivější použití. Původní návrh prošel příslušným senátním výborem, v současném Kongresu však zatím znovu předložen nebyl.
Nejde jen o katastrofické scénáře
Celá diskuse přitom není pouze o představě, že AI jednoho dne převezme kontrolu nad lidstvem.
Gates upozorňuje i na mnohem bezprostřednější problémy: podvody, deepfakes, kybernetické útoky, zásahy do pracovního trhu nebo soustředění technologické moci. Současně dál zdůrazňuje potenciální přínosy umělé inteligence například ve zdravotnictví, vzdělávání a vědeckém výzkumu.
Jeho aktuální vystoupení proto není odmítnutím AI jako takové. Je především výzvou k tomu, aby vývoj stále schopnějších systémů doprovázela pravidla, která nebudou záviset pouze na rozhodnutí samotných technologických firem.
A právě otázka, kdo má tato pravidla vytvořit a jak přísná mají být, se nyní stává jedním z hlavních sporů kolem dalšího vývoje umělé inteligence.
Zdroje
NBC News / Meet the Press – zveřejněné části rozhovoru s Billem Gatesem NBC Bay Area
Bill Gates, Gates Notes – The turbulent AI era is here Gates Notes
Dario Amodei – We Must Pace the Frontier t.co
Senátor John Thune – AI Research, Innovation, and Accountability Act Senator John Thune
Axios – aktuální debata o AI legislativě v americkém Senátu
