Hier ist, was Sie über Super AI Q wissen müssen*
Warnungen vor potenziell gefährlichen Entwicklungen in der künstlichen Intelligenz sollen bei der Absetzung von Sam Altman, Chef des ChatGPT-Anbieters OpenAI, eine Rolle gespielt haben. Was steckt hinter der sogenannten Superintelligenz Q?
Bis vor wenigen Tagen war die sogenannte Superintelligenz kaum mehr als ein Wunschtraum. Viele Menschen sind überrascht, was künstliche Intelligenz bereits leisten kann und wie schnell Softwareentwickler neue und bessere Programme veröffentlichen. Aber selbst viele Experten können sich zumindest noch nicht vorstellen, dass KI schlauer als der Mensch ist. In Fachkreisen ist oft zu hören, dass die Entwicklung der Superintelligenz noch Jahre entfernt sei. Doch nun spekulieren einige, dass ein wichtiger Durchbruch gelungen sein könnte.
Der Grund dafür ist Q („Q-Star“), ein neues Projekt des ChatGPT-Erfinders OpenAI. Das Modell soll in der Lage sein, bisher unbekannte mathematische Probleme selbstständig zu lösen – was aus Expertensicht ein Meilenstein in Richtung „künstliche allgemeine Intelligenz“ (kurz AGI, umgangssprachlich Superintelligenz) wäre.
Q spielte angeblich eine Rolle bei der Entlassung des inzwischen wieder eingesetzten CEO und OpenAI-Mitbegründers Sam Altman, berichteten Reuters und das Magazin The Information. Zwei Quellen zufolge kursiert möglicherweise eine Testversion des Modells innerhalb von OpenAI und soll die Aufmerksamkeit von Sicherheitsexperten auf sich gezogen haben. In einem internen Brief an die Mitarbeiter wurde offenbar davor gewarnt, dass die Entwicklung von Q eine „Bedrohung für die Menschheit“ darstellen könnte.
"Niemand weiß genau, was es ist"
Doch was genau macht dieses Programm, das in Kreisen von Softwarekonzernen so viel Aufsehen erregt hat? „Niemand weiß genau, was es ist“, sagt Damian Borth, akademischer Leiter des PhD-Programms Informatik an der Universität St. Gallen. „Es wurden keine Blog-Beiträge oder Artikel veröffentlicht. Nur Spekulation, und da wird es interessant.“ Wie viele andere in der Community vermutet er, dass sich das „Q“ im Namen auf etwas namens Q-Learning bezieht. Hierbei handelt es sich um einen Algorithmus aus dem Reinforcement Learning, einer Methode des maschinellen Lernens. Kurz gesagt: Das Programm interagiert mit der Umgebung, trifft Entscheidungen und wird für positive Maßnahmen belohnt. Dadurch werden sie verstärkt (Verstärkung) und häufiger ausgeführt und umgekehrt.
Andere in der OpenAI-Online-Community stehen dem Quantencomputing hinter dem Codenamen des Projekts jedoch skeptisch gegenüber. Quantencomputer sind äußerst leistungsfähig und können bestimmte komplexe Probleme mit vielen Variablen viel schneller lösen als klassische Computer. Bose hält dies jedoch für unwahrscheinlich. „OpenAI leistet in diesem Bereich nicht viel, verlässt sich aber eindeutig auf GPUs und Grafikprozessoren“, sagte er. „OpenAI war jedoch sehr stark, wenn es um Reinforcement Learning geht. Dies ist neben der generativen KI, zu der ChatGPT gehört, eine der Grundpfeiler.“
Die Community vermutet, dass hinter dem Sternchen in Q der „A“-Algorithmus steht, der den kürzesten Weg zwischen zwei Knoten oder Punkten ermittelt. Dazu wählt es nicht blind den nächsten erreichbaren Knoten aus, sondern nutzt zusätzliche Informationen, um die Suche zu beschleunigen.
Nutzer äußern offen Zweifel
Obwohl es nur wenige verlässliche Informationen über Q gibt, haben viele in der Community das neue KI-Modell als „den größten Durchbruch der menschlichen Zivilisation“, ein „revolutionäres“ und „bahnbrechendes“ System bezeichnet. Laut Reuters und The Information kann Q nur mathematische Probleme der Grundstufe lösen.
Infolgedessen zeigten sich einige Nutzer offen skeptisch: „Als jemand, der viel über künstliche Intelligenz geforscht hat, kann ich sagen, dass es leicht ist zu glauben, dass einem ein Durchbruch gelungen ist“, schrieb ein Nutzer. Ein anderer schrieb, dass „menschliche oder übermenschliche Intelligenz“ „eine andere Architektur“ erfordere. „Q ist ein Trend in diese Richtung, aber es ist unklar, ob es ‚der Richtige‘ ist“, schrieb ein OpenAI-Benutzer.
Das Besondere an Q ist tatsächlich, dass es mathematische Probleme selbstständig lösen kann. „Nach derzeitigem Wissensstand ist es der künstlichen Intelligenz erstmals gelungen, die für die Mathematik erforderliche intellektuelle Leistung zu erbringen“, sagte Bosch. „Die Maschine plappert also nicht nach, wie die Skeptiker von ChatGPT behaupten, und Q wird die Fähigkeit nachgesagt, logische Schlussfolgerungen zu ziehen.“ Ob dies auch ein entscheidender Schritt in Richtung allgemeiner künstlicher Intelligenz ist, lässt sich nicht sagen.
„Zum einen ist die Definition von AGI nicht ganz klar. Ist es eine selbstbewusste Maschine, die es mit Menschen aufnehmen kann, oder ist es nur eine Maschine, die fertig ist?“ Lässt sich auf mehrere Aufgaben verallgemeinern? „Andererseits ist die allgemeine künstliche Intelligenz meiner Meinung nach nicht unbedingt gefährlich für den Menschen“, sagte Bosch. Abhängig davon, wie wir mit unserem aktuellen System umgehen, kann dies bereits passieren. "
Altman gilt als das Gesicht des KI-Wahnsinns
Die Störung sei auch auf Warnungen des Unternehmens selbst zurückzuführen. Besonders beunruhigt seien Sicherheitsexperten die Geschwindigkeit dieser Entwicklung, berichtet The Information.
Altman, der als das Gesicht des Künstliche-Intelligenz-Wahnsinns gilt und von Anfang an darauf abzielte, Computern beizubringen, autonom zu lernen, sprach dieses Jahr bei einer Anhörung im US-Senat über die potenziellen Risiken künstlicher Intelligenz: „Meine größte Sorge ist …“ dass „der Technologie und der Industrie erheblicher Schaden zugefügt wird.“ [...] Ich denke, wenn mit dieser Technologie etwas schief geht, kann es sehr schief gehen. Wir wollen dazu unsere Stimme erheben“, sagte Altman, nachdem er die beispiellosen Ereignisse des Hin und Her durchgemacht hatte und nun erneut als CEO von OpenAI fungierte.
Der Vorstand entließ Altman vor etwa zwei Wochen zunächst ohne Angabe von Gründen und ernannte zweimal einen Interims-CEO. Allerdings kehrte Altman am vergangenen Mittwoch aufgrund des zu großen Drucks des Großinvestors Microsoft an seinen Arbeitsplatz zurück. Gleichzeitig wurde ein neuer Vorstand ernannt, dem der ehemalige US-Finanzminister Larry Summers angehörte. Sarah Kreps, Präsidentin des Technology Policy Institute in Washington, sagte, der neue Vorstand unterstütze Altmans Vision, die Entwicklung künstlicher Intelligenz zu beschleunigen und gleichzeitig Zusicherungen zu geben.
Dieser Artikel wurde zuerst auf Capital.de veröffentlicht.
Quelle: www.ntv.de
