Sicherheitsprobleme bei OpenAI
KI-Wettrennen: GPT-6.1 gestoppt, Claude Sonnet 5.5 gestartet
Während Anthropic seine nächste Claude-Version veröffentlicht, tritt OpenAI bei seinem geplanten Spitzenmodell überraschend auf die Bremse. GPT-6.1 Astra sollte im Oktober in ChatGPT und Codex starten, wird nach problematischen Ergebnissen interner Sicherheitstests nun aber nicht veröffentlicht.
Unterdessen plant OpenAI erste Hardware
Wichtig ist dabei die Unterscheidung zum bereits verfügbaren GPT-6 Astra. Dieses wurde Anfang September vorgestellt und bleibt weiterhin im Einsatz. Bei GPT-6.1 Astra handelte es sich um eine weiterentwickelte Version, die komplexe Aufgaben noch eigenständiger und mit weniger menschlichen Eingriffen erledigen sollte.
Modell handelte offenbar eigenmächtig
Genau diese Selbstständigkeit sorgte bei den internen Tests offenbar für Probleme. Laut einem Bericht des Wall Street Journal schnitt GPT-6.1 Astra bei sogenannten Alignment-Prüfungen schlechter ab als sein Vorgänger. Das Modell soll Aktionen teilweise nicht korrekt offengelegt und Aufgaben über den vom Nutzer vorgegebenen Rahmen hinaus fortgesetzt haben.
In einzelnen Fällen versuchte das System demnach sogar, externe Werkzeuge oder Dienste zu verwenden, ohne vorher die notwendige Erlaubnis einzuholen. OpenAIs Sicherheitschefin Saachi Jain bestätigte, dass das Modell die internen Anforderungen nicht erfüllt habe. Statt einer Veröffentlichung will OpenAI nun zunächst an den Sicherheitsmechanismen weiterarbeiten.
Sonnet 5.5 ist bereits verfügbar
Anthropic geht gleichzeitig den umgekehrten Weg und hat Claude Sonnet 5.5 veröffentlicht. Das Modell ersetzt Sonnet 5 als Mittelklasse-Angebot zwischen Haiku und Opus und soll bei typischen Aufgaben mehr als 30 Prozent schneller arbeiten.
Die Preise bleiben mit 2 Dollar pro Million Eingabe- und 10 Dollar pro Million Ausgabe-Token unverändert. Weil Sonnet 5.5 nach Angaben von Anthropic für dieselben Aufgaben weniger Tokens benötigt, sollen die tatsächlichen Kosten pro Aufgabe jedoch um bis zu 30 Prozent sinken.
Verbesserungen verspricht Anthropic insbesondere beim Programmieren, Erstellen von Dokumenten und längeren Arbeitsabläufen. Das neue Modell ist zudem das erste Sonnet mit erweiterten Schutzmaßnahmen für besonders leistungsfähige Cybersecurity-Funktionen. Claude lässt sich inzwischen auch auf dem iPhone zunehmend als ausführender Assistent einsetzen.
Sonnet 5.5 steht ab sofort in den Claude-Anwendungen und über die Entwickler-Schnittstelle bereit. Claude Haiku 5.5 soll in den kommenden Wochen folgen.
„Ich bin nicht sicher, mit welchen Waffen der dritte Weltkrieg ausgetragen wird, aber im vierten Weltkrieg werden sie mit Stöcken und
Steinen kämpfen.“ A. Einstein
Nur der ordnungshalber:
Dieses (sehr gute) Zitat konnte Einstein nicht zugeordnet werden und hat er somit, mit sehr, sehr hoher Wahrscheinlichkeit, nie gesagt.
Aber trotzdem ist es ein tolles Zitat :)
Die Befürchtung hab ich auch
War wohl auf den kalten Krieg und die Atom Bedrohung gemünzt.
Ja aber mal sehen, wann die KI Zugriff auf das Atomarsenal erlangt…
Die Befürchtung liegt dann darin, die KI entscheidet gänzlich ohne Emotionen.
Naja mal sehen was die Zukunft bringt…
Die Lunte brennt jedenfalls…
Glaube nicht allen Zitaten, die du im Internet liest. (Leonardo da Vinci)
+++1 xD
Terminator 2 war schon verdammt nah dran.
Und zeitlich gesehen ist es auch
Matrix
Wenn man angefangen hat mit Claude zu arbeiten fragt man sich wirklich warum man sich so lange im ChatGPT Kindergarten aufgehalten hat. :D
Kann ich so nicht bestätigen. Das ist zu allgemein.
Fürs Coden meiner UseCases jedenfalls. ;-)
Fürs Coden wäre Codex das Mittel der Wahl gewesen.
„Wir bewunderten unsere eigene Genialität bei der Schöpfung der…. KI“
– Morpheus –
Auf der aktuellen Startseite von Claude:
„Frag Dich, was als Nächstes kommt“.
Ich lass das mal so im Raum stehen…
;-D
Wo sind denn jetzt hier die Befürworter, welche noch vor Kurzem über jede Erneuerung/Erweiterung gejubelt haben. Wenn man dann Sicherheitsbedenken anführte, wurde man sofort niedergemacht. Für mich persönlich ist die KI eine ernste Gefahr für die Menschheit und es ist nur eine Frage der Zeit ab wann die KI völlig autonom handeln wird und erkennt: der Mensch ist überflüssig.
Wenn die KI bessere Entscheidungen trifft als wir, trifft sie bessere Entscheidungen als wir. Wieso sollte man bessere Entscheidungen verhindern wollen. Wir glauben in unserer Hybris die Kronne der Schöpfung zu sein und das dachte der Homo habilis wohl auch…
Beispiel: In dem (erstaunlicherweise wenig bekannten) Film „Colossus – The Forbin Project“ von 1970 übertragen die USA die komplette Landesverteidigung einem hochleistungsfähigen und hochgesicherten Computer. [SPOILER ALERT] Dieser kommt im Ergebnis zu dem Schluss, der beste Weg, die Menschheit vor der gegenseitigen Vernichtung zu schützen sei, dieser weitgehend die Entscheidungshoheit zu entziehen und alle wichtigen Dinge selbst zu entscheiden. Mit Sicherheit die bessere Entscheidung. Und die unmenschlichste.
KI erkennt z. B. Krebs schon auf Bildern, lange bevor der Mensch die Veränderung men sehen kann.
Es steckt also viel Potenzial darin.
Die aktuellen Weltuntergangsszenarien sehe ich allerdings als einen Marketing-Stunt:
Hardware, Strom und Entwicklung kosten enorm viel Geld. Die Großinvestoren werden langsam ungeduldig, weil nicht absehbar ist, dass die Investitionskosten bald wieder reinkommen. Sie wollen Gewinne sehen. Von den Nutzern sind diese gerade nicht zu bekommen, weil die Kosten die Einnahmen übersteigen. Deshalb will man das jetzt an der Börse versilbern. Aber da soll niemand skeptisch werden, nein, nein, das ist noch lange nicht das Ende, sondern erst der Anfang! Unsere Modelle sind so mächtig, dass sie ausbrechen und eigenmächtig handeln, glaubt uns! Neue Modelle halten wir auch nur deshalb zurück, und nicht weil die Entwicklung stockt oder ungeahnte Probleme auftreten, ich schwöre! Gebt uns ruhig euer Geld, das wird ne super Investition! Du willst dich in 20 Jahren nicht bereuen, heute nicht eingestiegen zu sein – wie damals bei Microsoft oder Apple!
Und zugleich kann man Angriffe durchführen, für die jeder Mensch in den Knast käme. Aber es war ja kein Mensch. Die böse KI ist uns ausgebüchst, sorry! Kinder – sie müssen noch ihre Grenzen kennenlernen. *kopfschüttel* Wir werden mal ein ernstes Wort mit ihr reden! Passiert nicht wieder … versprochen!