Sam Altman, šéf Open AI, stojacej za ChatGPT: ľudstvo môže stvoriť inteligenciu, ktorú už nedokáže zastaviť

Šéf OpenAI upozorňuje na dva nebezpečné scenáre vývoja umelej inteligencie. Ľudstvo by mohlo stratiť kontrolu nad systémami schopnejšími než človek alebo by sa bezprecedentná moc sústredila do rúk jediného subjektu. Práve druhé riziko vyvoláva otázky aj o postavení jeho vlastnej spoločnosti.

Sam Altman opísal dva scenáre, pri ktorých by sa vývoj AI mohol zásadne vymknúť spod ľudskej kontroly alebo ohroziť rovnováhu moci v spoločnosti.

Sam Altman, šéf spoločnosti, vyvíjajúcej aj ChatGPT, patrí medzi najvýraznejších zástancov ďalšieho rozvoja umelej inteligencie. Zároveň však upozorňuje, že technológia, ktorú jeho spoločnosť pomáha vytvárať, môže priniesť aj mimoriadne vážne riziká. V rozhovore pre podcast Figuring Out with Raj Shamani, zverejnenom 3. novembra, opísal dva scenáre, pri ktorých by sa vývoj AI mohol zásadne vymknúť spod ľudskej kontroly alebo ohroziť rovnováhu moci v spoločnosti.

Prvým je strata kontroly nad samotnou technológiou. Nemuselo by ísť o dramatické povstanie strojov, aké poznáme zo sci-fi filmov. Podľa Altmana by ľudia mohli úmyselne alebo neúmyselne odovzdať rozhodovanie systémom, ktoré budú svojimi schopnosťami výrazne prevyšovať človeka. Ak by tento proces zašiel príliš ďaleko, ľudstvo by už nemuselo dokázať získať kontrolu späť.

Takéto obavy nadobúdajú väčší význam s rozvojom autonómnejších systémov a takzvaných AI agentov. Na rozdiel od klasických chatbotov dokážu plánovať postup, používať ďalší softvér a vykonávať viaceré nadväzujúce úlohy bez neustáleho zásahu používateľa.

Nebezpečenstvo pritom nemusí spočívať v tom, že by umelá inteligencia mala vlastné nepriateľské úmysly. Problémy môžu vzniknúť aj vtedy, keď mimoriadne schopný systém dostane nepresne definovaný cieľ a začne ho dosahovať spôsobom, ktorý jeho tvorcovia nepredpokladali.

Druhý scenár sa netýka vzbury strojov, ale ľudskej moci. Altman upozorňuje na možnosť, že jeden človek, spoločnosť alebo štát získa prostredníctvom umelej inteligencie neprimerane veľkú prevahu nad ostatnými. Takúto koncentráciu moci považuje za nebezpečnú a destabilizujúcu.

Za priaznivejší preto pokladá svet, v ktorom pôsobí viacero nezávislých vývojárov AI, ktorí medzi sebou súťažia a využívajú odlišné technologické prístupy. Ani konkurencia však sama osebe nezaručuje bezpečný vývoj.

Jeho slová majú zaujímavý rozmer práve vzhľadom na postavenie OpenAI. Spoločnosť patrí medzi hlavných hráčov vo vývoji pokročilých modelov a budovaní výpočtovej infraštruktúry. Altman v tom istom rozhovore vyzdvihol jej používateľskú základňu, technologické zázemie aj značku. Zároveň však zdôraznil, že nechce, aby jedna firma ovládla celé odvetvie.

Napriek týmto varovaniam zostáva technologickým optimistom. Verí, že ľudia sa dokážu prispôsobiť novým podmienkam a že umelá inteligencia môže zásadne zlepšiť kvalitu života.

Najväčšie očakávania spája s vedeckými objavmi. Pokročilé systémy by podľa neho mohli urýchliť výskum v matematike a fyzike, pomôcť objaviť nové liečebné postupy či zdroje energie.

Altman tak upozorňuje na zásadný paradox. Technológia, ktorá môže výrazne urýchliť vedecký a spoločenský pokrok, zároveň vytvára riziko, že ľudstvo stratí kontrolu nad svojou budúcnosťou. Rozhodujúce preto nebude iba to, akú výkonnú umelú inteligenciu dokážeme vytvoriť, ale aj to, kto ju bude ovládať a podľa akých pravidiel.

内容来自 Pravda - Žurnál,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅