Varování Billa Gatese

„Umělá inteligence je dostatečně silná, aby spustila události, které by způsobily miliardu úmrtí .“ Toto varování s rozhodně apokalyptickým podtextem pronesl Bill Gates během rozhovoru pro NBC. Zakladatel Microsoftu zdůraznil, jak kombinace nejnovějších pokroků v oblasti umělé inteligence a možnosti, že se tyto technologie dostanou do nesprávných rukou, představuje zbraň s nebývalým potenciálem.

Podle Gatese „je problém v tom, že mnoho lidí si tuto nejnovější technologickou revoluci představuje jako ty předchozí a věří, že se vše samo vyřeší. Ale tak to není,“ protože „průmysl to dokáže diagnostikovat, ale regulace musí přicházet zvenčí, od vlád. Vlády to ale nedělají .“ „Politici se musí zapojit do diskuse o tom, jak by měla vypadat ochranná a monitorovací opatření,“ řekl Gates. „A to musí být povinné. Pro průmysl to bude představovat malou dodatečnou zátěž, ale ne drastické zpomalení jeho aktivit.“ Z tohoto důvodu dodal: „Nasazuji veškerou důvěryhodnost a pověst své kariéry, abych řekl: tomuto problému nevěnujeme dostatečnou pozornost, neděláme dost pro to, abychom snížili potenciální škody, ani pro to, abychom sklízeli potenciální výhody.“

Podle zakladatele Microsoftu je potenciálně možné vyvinout umělou inteligenci zaměřenou na člověka, ale „bude to obrovská výzva, protože jsme se nikdy nesetkali s ničím podobným umělé inteligenci.“ Tato technologie, řekl, „je mnohem převratnější než cokoli, co se objevilo dříve , včetně těch, na kterých jsem měl to štěstí pracovat, osobního počítače a internetu. V mnoha ohledech se vyrovná nebo překonává lidské poznávání. Bude to pro lidstvo bezprecedentní zkouška.“

Zastavení vývoje umělé inteligence však podle Gatese není řešením: „Zastavení všeho není správná odpověď a bylo by zklamáním: vzdali bychom se také nalezení léků na nemoci, nástrojů pro boj se změnou klimatu a velkého množství pomoci.“ Místo toho potřebujeme ochranné systémy proti rizikům, jako jsou kybernetické nebo biologické útoky. Gates také oceňuje zapojení církve do debaty: „Myslím, že je důležité, aby papež zasáhl a připomněl trvalé hodnoty církve, protože neříká, že všechno je hrozné, ale že pokud nebudeme chránit určité věci, mohlo by se to tak stát.“

Varování v oboru: Od Daria Amodeiho po Jacoba Coxona
Obavy vyjádřené Billem Gatesem odrážejí obavy, které nedávno vyjádřily další významné osobnosti technologického průmyslu. Dario Amodei , generální ředitel společnosti Anthropic, opakovaně zdůrazňoval, jak umělá inteligence generuje systémová a katastrofická rizika. Podle Amodeiho představuje vývoj technologií rozdvojené scénáře: pravděpodobnost nepříznivých událostí přímo závisí na schopnosti průmyslu a institucí zvolit zodpovědné a kontrolované cesty rozvoje, spíše než aby se poddávaly nekontrolovanému závodu o inovace.

Na rizika nespoutané konkurence mezi společnostmi v tomto odvětví v posledních týdnech upozornil také Jacob Coxon , bývalý výzkumník ve společnostech Anthropic a OpenAI. Coxon, který rezignoval na protest proti tempu vývoje pokročilých modelů, upozornil na rychlost, s jakou jsou uváděny na trh stále více autonomních systémů. Expert uvedl, že společnost, pro kterou pracoval, a OpenAI „závodí směrem k sebevylepšující se superinteligenci. (...) Lidé, kteří vytvářejí umělou inteligenci, skutečně věří, že by nás mohla do konce desetiletí všechny zabít.“