iphone-ticker.de — Alles zum iPhone. Seit 2007. 38 739 Artikel

Offener Brief mit einem Satz 

Eindringliche KI-Warnung: Massive Risiken für die Menschheit

Artikel auf Mastodon teilen.
56 Kommentare 56

Das Center for AI Safety, eine Non-Profit-Organisation, die sich das Ziel gesetzt hat, die von „künstlicher Intelligenz ausgehenden Risiken für die Gesellschaft zu verringern“ hat einen offenen Brief veröffentlicht, der von zahlreichen wichtigen Persönlichkeiten aus dem KI-Community gezeichnet wurde.

Chatgpt App Ios

Offener Brief mit einem Satz

Unter den Signierenden befindet sich Sam Altman, CEO des für ChatGPT verantwortlichen KI-Unternehmens OpenAI, aber auch Googles Demis Hassabis, seines Zeichens Leiter des KI-Labors Google DeepMind. Zudem haben sich zahlreiche Branchengrößen (etwa Microsoft, Inflection AI, Stability AI, Skype und Notion), Akademiker, Professoren und Forscher der Forderung des offenen Briefes angeschlossen, die sich auf nur einen eindringlichen Satz beschränkt.

Im Wortlaut heißt es in dem Schreiben des Zentrums für KI-Sicherheit: „Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.“

Auf deutsch übersetzt also etwa: „Die Minderung des Risikos durch KI auszusterben sollte neben anderen Risiken von gesellschaftlichem Ausmaß, wie etwa Pandemien und Atomkriegen, eine globale Priorität sein.“

Sorge vor zukünftigen Entwicklungen

Die Sorge: Auch wenn sich aktuelle KI-Experimente auf verblüffend menschenähnlich agierende Textgeneratoren wie ChatGPT, Bildgeneratoren wie Stable Diffusion oder komplett harmlose Sprachverständnis-Modelle wie Whisper beschränken, könnten zukünftige KI-Entwicklungen mit massiven Risiken für die Menschheit einhergehen.

Bereits im März hatten über 1000 Forschende und IT-Schwergewichte, darunter Tesla-Chef Elon Musk und Apple-Mitbegründer Steve Wozniak, einen offenen Brief gezeichnet, der Regierungen dazu aufforderte sich mit den Risiken von KI-Systemen mit menschenähnlicher Intelligenz zu beschäftigen.

Spannende und gute KI-Applikationen

30. Mai 2023 um 16:42 Uhr von Nicolas Fehler gefunden?


    Zum Absenden des Formulars muss Google reCAPTCHA geladen werden.
    Google reCAPTCHA Datenschutzerklärung

    Google reCAPTCHA laden

    56 Kommentare bisher. Dieser Unterhaltung fehlt Deine Stimme.
    • Sehe ich auch so. Mein Sohn beschäftigt sich damit und hat mir schon ein paar Sachen gezeigt, die er mit seinem Kumpel, in dem Bereich, umgesetzt hat. Funfact: mit der KI und YT haben beide sich das programmieren beigebracht und das KI-Modell, mit denen die beiden tüfteln, ist wohl Open Source.
      mir ist das zu hoch aber im Gegensatz zu ChatGPT brauchen meine Frau und ich, wir sind Versuchskaninchen, nicht damit tippen. Die beiden haben einfach eine alte Alexa mit einer JBL Box gekreuzt und im Keller steht jetzt ein MacMini, wo wo alles irgendwie drauf verarbeitet wird. Ich übertreibe nicht, wenn ich schreibe, dass sich das Teil super menschlich anhört und bei uns sogar den AB spielt. Also so richtig ans Festnetz geht, sich meldet, sich unterhält und uns dann, auf Befehl, eine Zusammenfassung über die besagte Box in der Küche ausgibt. Wenn zwei 20-jährige das hinbekommen, ist echt alles möglich.

  • Schaut euch den Film „Anymatrix“ an, so werden wir alle enden ;)

  • Frei nach Terminator:
    Die Maschinen fingen an, mit geometrische Geschwindigkeit zu lernen.

  • Der der hier schreibt
  • Ich habe Skynet immer für eine Fiktion gehalten…jetzt wird diese aber Realität. Willkommen in der Zukunft.

  • Unterschätzt das Potential nicht. So gut sie dabei sind den Nutzer zu helfe, so effizient sind sie auch dabei anderen Nutzern zu schaden. Jeder zehnjährige kann dabei Viren maßgeschneidert coden

    • Knknzffrrchhhtkrszt

      Glaube ich nicht. KI verhilft dir immer nur zu maximal 80-90% des Resultats. Und was ist wenn du wenig bis keine Ahnung hast? Dann bleibst du vor den 10-20% sitzen und weißt auch nicht weiter. Weil der Aufwand die restlichen 10-20% zu bauen derselbe Lernaufwand ist wie 100% zu bauen.

      • Der wahre Klaus

        Ich drück die Daumen das es so ist wie du es beschreibst – und auch so bleibt.

  • So hast auch du jetzt als Vater der Buchstaben aus Liebe das Gegenteil dessen gesagt, was sie bewirken. Denn diese Erfindung wird der Lernenden Seelen vielmehr Vergessenheit einflößen aus Vernachlässigung des Gedächtnisses, weil sie im Vertrauen auf die Schrift sich nur von außen vermittelst fremder Zeichen, nicht aber innerlich sich selbst und unmittelbar erinnern werden.“

    – Platon

    • Philosophie ist was tolles. Nur finde ich, hat Platon hier Unrecht. Es kommt wie immer auf die Sichtweise an. Allerdings kenne ich den kompletten Kontext des Zitats nicht.
      Mein Senf: gerade die klassische Philosophie lehrt vereinfacht gesagt: hinterfrage das warum, das woher, und den Sinn des Gesagten. Und somit widerspricht Platon sich ja irgendwie selbst. Denn mit Buchstaben kann man Prima lernen und lehren :)

  • Erst die Büchse der Pandora öffnen und dann mit Schrecken feststellen, was für ein Risiko davon ausgehen kann.
    „Terminator“ und Skynet sind keine reine fiction mehr.

  • Ich bin dafür gegen KI einzusetzen. Frei nach dem Motto, Brandschneise schlagen, Gegenfeuer legen!:D

  • ICANN sollte mal alle Internet Nutzer in die Ferien schicken, während dessen die KI wieder kontrolliert abgeschaltet wird.

  • Ki kann hilfreich sein, aber wenn es bei der großen Masse ankommt wird es problematisch.
    Das sieht man doch seit Jahren am Internet.

    Es sind viele Menschen einfach nicht Medienkompetent: Hatespeech, Fakenews, verzerrte Wahrnehmung etc. werden noch problematischer werden.

    „Das Internet macht die Dummen noch dümmer und die Schlauen noch schlauer“

  • Wir sind weit weg von selbstständig denkenden Systemen. Immer mit der Ruhe

    • Das zeigt, wie wenig sich einige damit auskennen. Die Sorge ist nicht, dass ein fehlgeleitetes Skynet die Menschheit ausrottet, sondern dass die KI/ML verwendet wird um immer perfidere Möglichkeiten der Unterdrückung von anders Denkenden zu finden. Man kann Datenströme so gezielt analysieren und Menschen gezielt manipulieren, dass es a.) keine freie Entscheidungen mehr gibt oder b.) Entscheidungen durch Zwang herbeigeführt werden.
      Leider ist unsere Gesellschaft noch nicht so weit, dass man die Vorteile de KI nutzt um das Leben der Menschen, insbesondere in den unterentwickelten Ländern, substanziell zu verbessern. Wir müssen zu dem Punkt kommen, wo man Philanthropen mehr respektiert und bewundert als den Kontoauszug der von Turbo-Kapitalisten. Aber solange RTL2 das Gehirn seiner Zuschauer aufweicht und die anschließend geschaltete Werbung einem eintrichtert, dass man nur Erfüllung mit dem neusten iPhone findet, seh ich da eher schwarz.
      Noch haben wir es in der Hand – die Frage ist nur, wie lange noch.

      • Schön gesagt Karl!
        Das ist auch immer mein Reden. Alles hat zwei Seiten. Die KI perse ist nicht böse oder schlecht, er der User, sprich Mensch, macht es zu „Skynet“.

      • Ist doch nix neues und wird auch ohne Ki schon immer gemacht. Ist halt effizienter aber sicher nichts Neues.

  • Zwischen Inhalte scannen und ausgeben zu selbstständigem denken und handeln ist es noch ein weiter weiter weg

  • Vor allen bei dem derzeitigen IQ der Bundesregierung besonders gefährlich ;-)

  • Leute mein Gott! Das klingt nur cool, das Wort KI. Aber es ist nichts autonomes. Die Antworten sind im Pool hinterlegt. Mehr ist da nicht. Ein Hype um nichts.

  • Question to ChatGPT : Why could AI be dangerous?

    1. Lack of Ethical Considerations: AI systems are programmed to optimize certain objectives or goals. If ethical considerations are not thoroughly integrated into their design and development, AI systems may unintentionally produce biased outcomes, infringe on privacy rights, or lead to unintended consequences.

    2. Unintended Consequences: AI systems learn from data and make decisions based on patterns and correlations. However, they may not fully understand the context or underlying causes of those patterns. This can lead to unintended consequences or decisions that humans may consider inappropriate or harmful.

    3. Autonomous Weapons: The development of AI-powered autonomous weapons systems has raised concerns. There are worries that these weapons could be used in warfare or conflict situations without sufficient human control, potentially leading to unpredictable and dangerous outcomes.

    4. Job Displacement: AI and automation have the potential to replace certain jobs and tasks traditionally performed by humans. While this can lead to increased efficiency and productivity, it can also result in job loss and economic disruption, particularly if appropriate measures are not taken to support affected individuals and communities.

    5. Security and Privacy Risks: AI systems may be vulnerable to malicious attacks or exploitation, leading to privacy breaches or misuse of personal data. Additionally, if AI systems are used in critical infrastructure or decision-making processes, they could be targeted by hackers or face other cybersecurity risks.

  • KI muss kein Bewusstsein haben, KI muss nicht wirklich denken. Es reicht völlig aus, wenn beides glaubwürdig simuliert wird…

  • Komische Sache. Warum wird der ranz von den Leuten unterzeichnet, die ai in die Welt bringen?

    • Habe mich auch gefragt ob das nur die Werbetrommel rühren soll. Soweit mir bekannt hat Microsoft und der gute Elon ja einiges in OpenAi investiert (habe es nicht recherchiert aber meine es gelesen zu haben). Warum dann also dagegen unterzeichnen.

      • Elon ist aus Open AI schon längst raus gewesen. Aufgrund von Teslas bedenken. Der hatte ewig damit nix zu tun.

    • Nur weil diese Leute es in die Welt bringen, heißt es nicht dass diese Leute es zum Bösen ausnutzen. Die Leute die das Internet erfunden haben, haben es auch nicht mit den Gedanken gemacht dass es dann sowas wie ein Darknet gibt wo man alles und jeden kaufen kann oder das es mal sowas wie YouTube, Twitch, Instagram, TikTok etc. etc. geben wird wo die Menschheit dann Ihre Zeit verplempert. Es wurde für den schnellen Austausch von Informationen entwickelt und nicht um die Welt in einen Abgrund zustürzen.

  • Bis KI wirklich gefährlich wird werden die meisten Menschen bereits durch den Klimawandel und den daraus entstehenden Konsequenzen dahingerafft worden sein. Naturkatastrophen, aussterben von Tieren und Pflanzen, Smog, Hunger, Krieg, usw.

  • Redet mit. Seid nett zueinander!

    Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

    ifun.de ist das dienstälteste europäische Onlineportal rund um Apples Lifestyle-Produkte.
    Wir informieren täglich über Aktuelles und Interessantes aus der Welt rund um iPhone, iPad, Mac und sonstige Dinge, die uns gefallen.
    Insgesamt haben wir 38739 Artikel in den vergangenen 6305 Tagen veröffentlicht. Und es werden täglich mehr.
    ifun.de — Love it or leave it   ·   Copyright © 2024 aketo GmbH   ·   Impressum   ·   Cookie Einstellungen   ·   Datenschutz   ·   Safari-Push aketo GmbH Powered by SysEleven