„Algjört brjálæði“

Gervigreindarfræðingurinn Jacob Coxon segir það „brjálæði“ að þróun jafn öflugrar tækni og gervigreindar sé í höndum stórfyrirtækja sem rekin eru í hagnaðarskyni.

Coxon vakti heimsathygli þegar hann sagði upp hjá Anthropic í september og sakaði fyrirtækið um að tefla mannslífum í tvísýnu.

„Þetta er mjög undarlegur dagur,“ sagði hinn 27 ára gamli Breti í samtali við AFP í gær, á fyrsta viðskiptadegi hlutabréfa Anthropic á Nasdaq eftir metútboð fyrirtækisins.

Coxon ræddi við AFP fyrir utan höfuðstöðvar Anthropic í San Francisco. Þar kröfðust mótmælendur þess að bannað yrði að þróa líkön sem geta sjálf búið til nýjar kynslóðir af eigin gerð. Í greininni er þetta kallað endurkvæm sjálfsbæting (e. recursive self-improvement, RSI).

Áður fór þróun gervigreindar fram hjá litlum samtökum sem ekki voru rekin í hagnaðarskyni og rannsóknastofnunum háskóla. Nú ráða ferðinni stórfyrirtæki á borð við Anthropic og keppinaut þess OpenAI, sem þróar ChatGPT.

Hlutabréfin hækkuðu um 17% á fyrsta degi

Útboðsgengi Anthropic var ákveðið í fyrradag og miðað við það var fyrirtækið metið á um 1.500 milljarða bandaríkjadala, jafnvirði um 187.200 milljarða króna. Í því mati var meðal annars tekið tillit til kaupréttar starfsmanna og hlutabréfa sem háð eru skilyrðum.

Bréfin lokuðu í gær um 17% yfir útboðsgengi. Við lokun nam markaðsvirði fyrirtækisins um 1.300 milljörðum dala, eða 162.300 milljörðum króna, miðað við útistandandi hlutabréf. 

OpenAI var metið á 1.250 milljarða dala, jafnvirði um 156.000 milljarða króna, þegar fyrirtækið sótti fé til fjárfesta fyrr í mánuðinum, samkvæmt fjölmiðlafréttum. Miðað er við opinbert viðmiðunargengi 19. nóvember, 124,82 krónur á dal.

„Mér finnst þetta sýna hversu fáránleg staðan er orðin. Það er algjört brjálæði að fyrirtæki sem rekin eru í hagnaðarskyni skuli þróa þessa tækni,“ sagði Coxon.

Segir áratuga rannsóknir geta tekið nokkra mánuði

Coxon lauk námi við Cambridge-háskóla og vann í þrjú ár hjá OpenAI við frumþjálfun gervigreindarlíkana, þar sem þau læra af gríðarlegu magni gagna. Hann starfaði síðan í nokkra mánuði hjá Anthropic.

Þegar Coxon greindi frá uppsögn sinni á X 8. september sakaði hann bæði fyrirtækin um að „keppast við að þróa ofurgreind sem getur bætt sig sjálf“.

„Fólkið sem þróar gervigreind trúir því í fullri alvöru að hún gæti orðið okkur öllum að bana fyrir lok áratugarins,“ skrifaði hann.

Sjálfsbæting líkana gæti fræðilega hrundið slíkri atburðarás af stað. Coxon sagði við AFP að rannsóknir á gervigreind sem annars tækju áratugi gætu þá tekið fáa mánuði. Ef fólk skildi ekki hvernig gervigreindin virkaði gætu afar öflug og hugsanlega stórhættuleg kerfi orðið til fyrir árslok 2027.

Coxon sagði að Anthropic ætti að hafna því að beita þessari aðferð. Hann sakaði fyrirtækið um að hyggjast hefja slíka vinnu strax á næsta ári. 

内容来自 mbl.is - Tækni og Vísindi,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab