Sicherheitsprobleme bei OpenAI
KI-Wettrennen: GPT-6.1 gestoppt, Claude Sonnet 5.5 gestartet
Während Anthropic seine nächste Claude-Version veröffentlicht, tritt OpenAI bei seinem geplanten Spitzenmodell überraschend auf die Bremse. GPT-6.1 Astra sollte im Oktober in ChatGPT und Codex starten, wird nach problematischen Ergebnissen interner Sicherheitstests nun aber nicht veröffentlicht.
Unterdessen plant OpenAI erste Hardware
Wichtig ist dabei die Unterscheidung zum bereits verfügbaren GPT-6 Astra. Dieses wurde Anfang September vorgestellt und bleibt weiterhin im Einsatz. Bei GPT-6.1 Astra handelte es sich um eine weiterentwickelte Version, die komplexe Aufgaben noch eigenständiger und mit weniger menschlichen Eingriffen erledigen sollte.
Modell handelte offenbar eigenmächtig
Genau diese Selbstständigkeit sorgte bei den internen Tests offenbar für Probleme. Laut einem Bericht des Wall Street Journal schnitt GPT-6.1 Astra bei sogenannten Alignment-Prüfungen schlechter ab als sein Vorgänger. Das Modell soll Aktionen teilweise nicht korrekt offengelegt und Aufgaben über den vom Nutzer vorgegebenen Rahmen hinaus fortgesetzt haben.
In einzelnen Fällen versuchte das System demnach sogar, externe Werkzeuge oder Dienste zu verwenden, ohne vorher die notwendige Erlaubnis einzuholen. OpenAIs Sicherheitschefin Saachi Jain bestätigte, dass das Modell die internen Anforderungen nicht erfüllt habe. Statt einer Veröffentlichung will OpenAI nun zunächst an den Sicherheitsmechanismen weiterarbeiten.
Sonnet 5.5 ist bereits verfügbar
Anthropic geht gleichzeitig den umgekehrten Weg und hat Claude Sonnet 5.5 veröffentlicht. Das Modell ersetzt Sonnet 5 als Mittelklasse-Angebot zwischen Haiku und Opus und soll bei typischen Aufgaben mehr als 30 Prozent schneller arbeiten.
Die Preise bleiben mit 2 Dollar pro Million Eingabe- und 10 Dollar pro Million Ausgabe-Token unverändert. Weil Sonnet 5.5 nach Angaben von Anthropic für dieselben Aufgaben weniger Tokens benötigt, sollen die tatsächlichen Kosten pro Aufgabe jedoch um bis zu 30 Prozent sinken.
Verbesserungen verspricht Anthropic insbesondere beim Programmieren, Erstellen von Dokumenten und längeren Arbeitsabläufen. Das neue Modell ist zudem das erste Sonnet mit erweiterten Schutzmaßnahmen für besonders leistungsfähige Cybersecurity-Funktionen. Claude lässt sich inzwischen auch auf dem iPhone zunehmend als ausführender Assistent einsetzen.
Sonnet 5.5 steht ab sofort in den Claude-Anwendungen und über die Entwickler-Schnittstelle bereit. Claude Haiku 5.5 soll in den kommenden Wochen folgen.
„Ich bin nicht sicher, mit welchen Waffen der dritte Weltkrieg ausgetragen wird, aber im vierten Weltkrieg werden sie mit Stöcken und
Steinen kämpfen.“ A. Einstein
Nur der ordnungshalber:
Dieses (sehr gute) Zitat konnte Einstein nicht zugeordnet werden und hat er somit, mit sehr, sehr hoher Wahrscheinlichkeit, nie gesagt.
Aber trotzdem ist es ein tolles Zitat :)
Die Befürchtung hab ich auch
War wohl auf den kalten Krieg und die Atom Bedrohung gemünzt.
Ja aber mal sehen, wann die KI Zugriff auf das Atomarsenal erlangt…
Die Befürchtung liegt dann darin, die KI entscheidet gänzlich ohne Emotionen.
Naja mal sehen was die Zukunft bringt…
Die Lunte brennt jedenfalls…
Glaube nicht allen Zitaten, die du im Internet liest. (Leonardo da Vinci)
Terminator 2 war schon verdammt nah dran.
Wenn man angefangen hat mit Claude zu arbeiten fragt man sich wirklich warum man sich so lange im ChatGPT Kindergarten aufgehalten hat. :D
„Wir bewunderten unsere eigene Genialität bei der Schöpfung der…. KI“
– Morpheus –
Auf der aktuellen Startseite von Claude:
„Frag Dich, was als Nächstes kommt“.
Ich lass das mal so im Raum stehen…
;-D