S plánováním násilných útoků pomáhala AI. Potvrzeno přes 70 mrtvých

Účet v červnu 2025 zachytil automatický systém OpenAI a předal ho zaměstnancům k prověření. Ti zjistili, že uživatelka porušila pravidla ChatGPT, a účet zablokovali. Podle firmy tehdy dostupné informace nesplňovaly její kritéria pro oznámení věrohodné a bezprostřední hrozby policii.

Dne 10. února 2026 našli policisté v Tumbler Ridge šest obětí ve škole a další dvě v nedalekém domě. Ve škole zemřela i útočnice. Až po zveřejnění její totožnosti OpenAI zjistila, že používala ještě druhý účet na ChatGPT. Informace o něm firma po jeho odhalení předala policii.

Při britském slyšení se právník komise zeptal Briana Fishmana z OpenAI, jak by firma reagovala dnes, kdyby podobné chování zaznamenala u uživatele ve Spojeném království. „Pokud by se choval podobně jako v případu Tumbler Ridge, podle našich současných pravidel bychom ho policii nahlásili,“ odpověděl Fishman.

Nejméně 11 nástrojů AI

Southport Inquiry je nezávislé veřejné vyšetřování, které britská ministryně vnitra zřídila po útoku na dětském tanečním kurzu v anglickém Southportu. V červenci 2024 tam útočník ubodal tři dívky. Komise v první fázi zkoumala, co útoku předcházelo a jak na varovné signály reagovaly úřady. Dospěla mimo jiné k závěru, že násilný obsah, který pachatel sledoval na internetu, prohluboval jeho fascinaci násilím.

Ve druhé fázi komise zkoumá, jak podobným útokům předcházet a jak včas rozpoznat hrozbu i podle chování lidí na internetu. Proto při londýnském slyšení přišli na řadu také chatboti. Kanadská střelba posloužila jako příklad toho, jak se provozovatel takové služby rozhoduje, kdy už má varovat policii. Podle listu The Times nejsou důkazy, že by sám útočník ze Southportu použil AI k plánování.

Právě při listopadovém slyšení zazněla bilance, kterou Tech Against Terrorism zveřejnila už v červenci. Organizace ve více než 30 případech zaznamenala nejméně 11 nástrojů AI. Její přehled zahrnuje terorismus, násilný extremismus i další případy hromadného násilí. Jak velkou roli měla AI u jednotlivých činů, ze souhrnného počtu úmrtí vyčíst nelze.

内容来自 Novinky.cz - Internet a PC,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab