OpenAI chce lépe chránit mladistvé, ChatGPT bude nově varovat uživatele a blokovat účty kvůli nevhodnému obsahu

OpenAI chce lépe chránit mladistvé, ChatGPT bude nově varovat uživatele a blokovat účty kvůli nevhodnému obsahu

Zdroj: REUTERS / Dado Ruvic

OpenAI podle nejnovějších zpráv zavádí nové bezpečnostní nástroje, které by měly zvýšit účinnost v boji proti obsahu zobrazujícím sexuální zneužívání dětí. Tento obsah je také označovaný jako CSAM. Opatření obsahuje nový systém pro rozpoznávání závadného obrazového obsahu, přísnější kontroly v ChatGPT a také nástroje určené vývojářům a pro potřeby vyšetřování. OpenAI reaguje na rostoucí obavy ze zneužívání umělé inteligence k vytváření nelegálního obsahu.

Nový AI systém dokáže rozpoznat i dosud neznámé obrázky

OpenAI vyvinula nový obrazový klasifikátor ve spolupráci s americkou organizací National Center for Missing and Exploited Children (NCMEC). Tento nástroj dokáže vyhledávat známky sexuálního zneužívání dětí i na dosud neznámých snímcích, včetně těch, které byly vytvořeny, nebo upraveny pomocí umělé inteligence. Systém přiřazuje každému obrázku skóre rizikovosti, které pomáhá lidským moderátorům vyhodnocovat, jakým případům věnovat prioritní pozornost. Samotné vyhodnocení algoritmem však ještě neznamená, že je obsah opravdu závadný, ale slouží k prvotní identifikaci a má usnadnit práci lidským moderátorům.

Openai Chatgpt Csam

Zdroj: Techcrunch

Výsledky prvních testů ukazují, že nový klasifikační systém dokázal snížit počet obrázků označených ke kontrole o 48 %, aniž by klesl počet odhalených případů zneužívání. Pravděpodobnost, že označený snímek skutečně obsahuje závadný materiál, se navíc přibližně zdvojnásobila. Nový nástroj by měl být také bezplatně dostupný pro vybrané organizace skrze API rozhraní.

Nová opatření se mají týkat také ChatGPT aplikace. Pokud se uživatel pokusí vyhledávat nebo získat obsah týkající se sexuality dětí, zobrazí se varování, dojde k ukončení konverzace a účet může být na 24 hodin zablokován. Součástí upozornění budou také odkazy na odbornou pomoc zaměřenou na prevenci škodlivého chování. Při opakovaném porušení pravidel může OpenAI přistoupit k delšímu omezení používání nebo trvalému smazání účtu.

Zdroj: techcrunch.com

Dotekománie Získejte Dotekománie Premium

Čtěte náš magazín zcela bez reklam, odemkněte prémiové funkce a podpořte nezávislou českou novinařinu.

Kolik měsíčně platíte operátorovi za svůj mobilní tarif?

Načítání ankety...

Jakub Sobotka

Profilovka

Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.

Nahlásit chybu v článku

Našli jste v textu překlep nebo věcnou chybu? Dejte nám vědět.

内容来自 Dotekománie.cz,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅