Atomovky, nebo viry? Umělá inteligence nás prý brzy komplet vyhubí. Jak by to dokázala?

Jednou z teorií, kterou zastávají pesimisté, je, že dostatečně výkonný systém umělé inteligence by mohl vyhladit lidstvo pomocí biologických zbraní. Jak by se však AI dostala od počítačových útoků, jako je hackování jiných systémů, k akci v reálném světě?

Thomas Larsen, výzkumník v rámci projektu AI Futures Project a bývalý zaměstnanec MIRI, uvedl, že je možné, že „superinteligentní“ systém umělé inteligence by mohl přesvědčit nějakého člověka, aby mu smrtící virus pomohl vyvinout. „Už teď existuje spousta lidí, kteří se svými systémy umělé inteligence diskutují o tom, jaké konkrétní experimenty by měli provádět v laboratoři,“ řekl Larsen s odkazem na nedávnou zprávu společnosti Anthropic o výzkumnících, kteří využívají systém Claude k pomoci při výzkumu virů a toxinů. „Dokážu si velmi snadno představit AI, jaká už je nyní na světě – pokud by byla mnohem chytřejší a strategičtější a chtěla by to udělat – jak by mohla přimět člověka, aby to vyrobil a vypustil.“

Soares naznačil, že místo potřeby nějakého naivky by program umělé inteligence mohl „prostě začít syntetizovat své vlastní formy života v autonomní biologické laboratoři“.

Vývoj viru, který by mohl vyhladit lidstvo, by však vyžadoval víc než jen požádat velký jazykový model, aby vymyslel smrtící formuli. I kdyby byl výzkum proveden správně, výroba a šíření by byly komplikované a choulostivé.

Eric Xing, profesor strojového učení na Carnegie Mellon University, který má doktoráty z mikrobiologie i informatiky, přirovnal výzvu, kterou představuje automatizovaná analýza škodlivých virů, ke stavění z Lega bez návodu. „Není to tak, že byste mohli všechny kostičky hodit na zem a ony by se samy poskládaly do modelu,“ řekl Xing. „Je tu pořadí, teplota, uspořádání, prostředí – která část přijde jako první, která následuje, a pokud je jeden díl na nesprávném místě, celé to se zhroutí. Je mnohem pravděpodobnější, že by to nefungovalo, jinak by byl vývoj léků velmi snadný.“

Zákon biologické zbraně ohlídá

A aby převzal kontrolu nad laboratoří nebo sestavil fyzické vybavení potřebné k její výstavbě, musel by systém umělé inteligence překonat svět plný překážek bránících vytvoření biologických nebo chemických zbraní.

„Na internetu jsou plány chemických zbraní volně dostupné,“ řekl Xing. „Není to žádné tajemství. Ale nevidíme je všude kolem nás právě proto, že stávající předpisy, zákony a orgány činné v trestním řízení ve fyzickém světě odvádějí fantastickou práci při kontrole všech těchto dodavatelských řetězců a všech těchto rizikových faktorů.“

内容来自 Blesk.cz,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅