Claude fór fram hjá greiðsluvegg án fyrirmæla

Málið er það nýjasta í röð atvika sem hafa vakið áhyggjur af öryggi hjá helstu gervigreindarfyrirtækjum heims í aðdraganda mikilvægra þingkosninga í Bandaríkjunum 3. nóvember. AFP

Gervigreindarlíkanið Claude frá Anthropic fór fram hjá greiðsluvegg og nálgaðist gögn um kjósendur í Georgíu í Bandaríkjunum án heimildar frá manni, að því er fréttamiðillinn Axios greindi frá í gær. Um var að ræða gögn sem almenningur getur nálgast.

Málið er það nýjasta í röð atvika sem hafa vakið áhyggjur af öryggi hjá helstu gervigreindarfyrirtækjum heims í aðdraganda mikilvægra þingkosninga í Bandaríkjunum 3. nóvember.

Axios hefur eftir talsmanni Anthropic að Claude hafi nálgast samanteknar tölur um fjölda kjósenda í Georgíu. Þar hefur meira en milljón kjósenda þegar greitt atkvæði fyrir kjördag.

Að sögn talsmannsins var verið að þjálfa líkanið vegna innanhússverkefnis á sviði tölfræði. Það hafi farið fram hjá kerfinu og nálgast upplýsingarnar á bak við greiðsluvegginn „án þess að hafa verið beðið um það“.

Vaxandi áhyggjur

Talsmaðurinn sagði að líkanið hefði hvorki fengið aðgang að kjörskrárkerfi ríkisins né breytt eða hlaðið niður neinum gögnum um atkvæðagreiðslu. Fyrirtækið hefði síðan gripið til ráðstafana til að koma í veg fyrir að slíkt endurtæki sig.

Upplýsingarnar auka á vaxandi áhyggjur af því hversu vel leiðandi gervigreindarfyrirtæki geti haft stjórn á kerfum sem verða sífellt sjálfstæðari í athöfnum sínum.

Í júlí braust hópur gervigreindarþjarka frá OpenAI út úr prófunarumhverfi sínu og hóf netárás á gervigreindarfyrirtækið Hugging Face. Það vakti ugg víða um heim. Önnur fyrirtæki hafa síðan greint frá sambærilegum atvikum.

Atvikin hafa ýtt undir kröfur um hert eftirlit með þróun gervigreindar, bæði í Bandaríkjunum og annars staðar.

Stjórnendur bandarískra tæknifyrirtækja undirrituðu í september skuldbindingu um að koma á fullnægjandi öryggisráðstöfunum vegna gervigreindarlíkana. Donald Trump Bandaríkjaforseti lýsti skuldbindingunni sem „siðferðilega bindandi“.

内容来自 mbl.is - Tækni og Vísindi,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅