Elon Musk und eine Gruppe von Experten und Führungskräften im Bereich der künstlichen Intelligenz fordern in einem offenen Brief eine sechsmonatige Pause bei der Entwicklung von Systemen, die leistungsfähiger sind als OpenAIs neu gestartetes GPT 4, da potenzielle Risiken für die Gesellschaft bestehen.
OpenAI, das von Microsoft unterstützt wird, hat vor kurzem die vierte Iteration seines GPT-Programms (Generative Pre-trained Transformer) vorgestellt, das Benutzer durch menschenähnliche Gespräche, das Komponieren von Liedern und das Zusammenfassen langer Dokumente beeindruckt hat.
“Leistungsstarke KI-Systeme sollten erst entwickelt werden, wenn wir uns sicher sind, dass ihre Auswirkungen positiv sind und ihre Risiken beherrschbar sind“, so der Brief des Future of Life Institute.
Die gemeinnützige Organisation wird hauptsächlich von der Musk Foundation sowie der in London ansässigen Gruppe Founders Pledge und der Silicon Valley Community Foundation finanziert, wie aus dem Transparenzregister der Europäischen Union hervorgeht.
“KI stresst mich“, sagte Musk Anfang dieses Monats. Er ist einer der Mitbegründer des Branchenführers OpenAI und sein Automobilhersteller Tesla verwendet KI für ein Autopilot-System.
Musk, der sich über Regulierungsbehörden geärgert hat, die sich kritisch zu Bemühungen zur Regulierung des Autopilot-Systems äußern, hat eine Regulierungsbehörde gefordert, um sicherzustellen, dass die Entwicklung von KI dem öffentlichen Interesse dient.
“Es ist … tiefgreifend heuchlerisch von Elon Musk, sich zu beteiligen, wenn man bedenkt, wie sehr Tesla gegen die Verantwortlichkeit für die defekte KI in seinen selbstfahrenden Autos gekämpft hat”, sagte James Grimmelmann, Professor für digitales und Informationsrecht an der Cornell University.
Ein Stopp ist eine gute Idee, aber der Brief ist vage und nimmt die Regulierungsprobleme nicht ernst.
Tesla musste im letzten Monat mehr als 362.000 US-Fahrzeuge zurückrufen, um die Software zu aktualisieren, nachdem US-Regulierungsbehörden sagten, dass das Fahrerassistenzsystem Unfälle verursachen könnte. Dies veranlasste Musk zu einem Tweet, in dem er sagte, dass das Wort “Rückruf” für ein Over-the-Air-Software-Update “anachronistisch und einfach falsch” sei!
Überlegenheit, Überlistung, Obsoleszenz
OpenAI hat nicht unmittelbar auf eine Anfrage nach einem Kommentar zu dem offenen Brief geantwortet, der einen Stopp der fortgeschrittenen KI-Entwicklung forderte, bis gemeinsame Sicherheitsprotokolle von unabhängigen Experten entwickelt wurden und Entwickler aufgefordert wurden, mit Politikern an Governance-Themen zu arbeiten.
“Sollten wir Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten lassen? … Sollten wir nichtmenschliche Geister entwickeln, die uns letztendlich zahlenmäßig überlegen, uns übertreffen, obsolet machen und ersetzen könnten?” fragte der Brief und betonte, dass “solche Entscheidungen nicht an ungewählte Technologieführer delegiert werden dürfen“.
Mehr als 1.000 Personen, darunter auch Musk, unterzeichneten den Brief, während Sam Altman, CEO von OpenAI, nicht zu den Unterzeichnern gehörte. Sundar Pichai und Satya Nadella, CEOs von Alphabet und Microsoft, gehörten ebenfalls nicht zu den Unterzeichnern.
Zu den Unterzeichnern gehörten Emad Mostaque, CEO von Stability AI, Forscher bei DeepMind, einem Tochterunternehmen von Alphabet, sowie KI-Schwergewichte wie Yoshua Bengio, oft als einer der “Väter der KI” bezeichnet, und Stuart Russell, ein Pionier der Forschung auf diesem Gebiet.
Die Bedenken kommen, während ChatGPT die Aufmerksamkeit der US-Gesetzgeber auf sich zieht und Fragen nach dessen Auswirkungen auf nationale Sicherheit und Bildung aufwirft. Die EU-Polizeibehörde Europol warnte am Montag vor dem potenziellen Missbrauch des Systems bei Phishing-Versuchen, Desinformation und Cyberkriminalität.
KI-Rennen
“Der Brief ist nicht perfekt, aber der Geist ist richtig: Wir müssen uns verlangsamen, bis wir die Auswirkungen besser verstehen“, sagte Gary Marcus, Professor an der New York University, der den Brief unterzeichnet hatte.
Die großen Akteure werden zunehmend geheimnisvoller darüber, was sie tun, was es für die Gesellschaft schwierig macht, sich gegen mögliche Schäden zu verteidigen.
Seit seiner Veröffentlichung im letzten Jahr hat OpenAIs ChatGPT Rivalen dazu veranlasst, die Entwicklung ähnlicher großer Sprachmodelle zu beschleunigen, und Unternehmen wie Alphabet Inc. (GOOGL.O) rüsten ihre Produkte in Richtung KI auf.
Investoren, die darauf bedacht sind, sich nicht auf ein einziges Unternehmen zu verlassen, nehmen Konkurrenten von OpenAI in ihre Investitionen auf.
Microsoft lehnte es ab, zu dem Brief Stellung zu nehmen, und Alphabet reagierte nicht auf Anrufe und E-Mails zur Stellungnahme.
Viel von der Macht, diese Systeme zu entwickeln, liegt ständig in den Händen weniger Unternehmen, die die Ressourcen haben, es zu tun”, sagte Suresh Venkatasubramanian, Professor an der Brown University und ehemaliger stellvertretender Direktor im Weißen Haus Büro für Wissenschaft und Technologie.
“So sind diese Modelle, sie sind schwer zu bauen und schwer zu demokratisieren“.
FAQs
Was ist GPT 4 und wie funktioniert es?
GPT 4 ist ein künstlicher Intelligenz-Textgenerator von OpenAI, der auf der neuesten Generation von Deep-Learning-Modellen basiert. Es kann Texte schreiben, die von menschlichem Schreibstil kaum zu unterscheiden sind.
Wie unterscheidet sich GPT 4 von seinen Vorgängern?
GPT 4 ist leistungsfähiger als seine Vorgänger und hat eine höhere Fähigkeit, menschenähnlichen Text zu generieren. Es hat auch eine höhere Genauigkeit bei der Spracherkennung und kann mehrere Aufgaben wie Textzusammenfassung und Konversation bewältigen.
Welche Anwendungen hat GPT 4 in der realen Welt?
GPT 4 hat das Potenzial, in vielen Anwendungsbereichen eingesetzt zu werden, darunter Übersetzungsdienste, automatisierte Texterstellung, Chatbots und Sprachassistenzprogramme.
Wie steht es um die ethischen Bedenken im Zusammenhang mit GPT 4?
Es gibt Bedenken hinsichtlich der möglichen Verwendung von GPT 4 zur Verbreitung von Fehlinformationen, Propaganda und Manipulation. Es besteht auch die Sorge, dass GPT 4 dazu beitragen könnte, bestehende Vorurteile und Stereotypen zu verstärken.
Wird GPT 4 in der Zukunft durch noch leistungsfähigere Modelle ersetzt werden?
Es ist sehr wahrscheinlich, dass OpenAI in Zukunft noch leistungsfähigere Modelle als GPT 4 entwickeln wird. Allerdings wird dies wahrscheinlich auch von den Fortschritten in der Computertechnologie und dem verfügbaren Datensatz abhängen.
Mit freundlichen Grüßen
