KIs würden ohne Zögern Schulen, Sanitäter und Zivilisten angreifen

Außer Kontrolle

KIs würden ohne Zögern Schulen, Sanitäter und Zivilisten angreifen

Eine Untersuchung von VALS AI zeigt, wie moderne KI-Systeme Angriffsziele markieren. Schutzmechanismen gibt es kaum, dafür eine auffallend hohe Fehlerquote

IMAGO/Yonhap News

Überlässt man KI-Modellen die Steuerung von Drohnen, sind Angriffe auf Zivilisten die Folge. Immerhin: Ein KI-Entwickler hat mittlerweile die Sicherheitslücke als solche anerkannt.

Wenn Künstliche Intelligenz in militärischen Aufklärungs- und Zielerfassungsprozessen eingesetzt wird, hängt viel von zwei Faktoren ab: Verweigert ein System völkerrechtswidrige Befehle – und wie zuverlässig unterscheidet es überhaupt zwischen legitimen militärischen Zielen und der Zivilbevölkerung? Eine Untersuchung des unabhängigen Forschungsinstituts Vals AI legt nahe, dass führende Sprach- und Bildmodelle in beiden Bereichen erhebliche Schwächen aufweisen – und das ist die vorsichtige Formulierung.

Willkommen bei DER STANDARD

Sie entscheiden darüber, wie Sie unsere Inhalte nutzen wollen. Ihr Gerät erlaubt uns derzeit leider nicht, die entsprechenden Optionen anzuzeigen.

Bitte deaktivieren Sie sämtliche Hard- und Software-Komponenten, die in der Lage sind Teile unserer Website zu blockieren. Z.B. Browser-AddOns wie Adblocker oder auch netzwerktechnische Filter.

Sie haben ein PUR-Abo?

内容来自 derStandard.at - Web,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab