Gelegentlich gerät das Forschungsfeld der KI in Hitze, nicht aufgrund neuer Veröffentlichungen, sondern aufgrund von Debatten darüber, wer falsch liegt oder wer die Forschung des anderen untergräbt. Dieses Mal zeigte Yann LeCun mit dem Finger auf Gary Marcus, Grady Booch und Michael J Black, weil sie Meta’s Galactica getötet haben.
Der Streit begann mit der Einführung von Sakana AI’s AI Scientist, das Unternehmen behauptet, es sei das erste KI-System zur Automatisierung wissenschaftlicher Forschungspapiere und der offenen Entdeckung. Dies ähnelt sehr Galactica, einem LLM, der auf wissenschaftlichem Wissen für das wissenschaftliche Feld trainiert wurde. Es wurde jedoch abgeschaltet, weil Forscher besorgt waren über dessen Ergebnisse, die möglicherweise unzuverlässig und anfällig für Halluzinationen sein könnten.
"Werden die KI-Negativisten, die Galactica getötet haben, indem sie es mit Galle überschütteten, auch dieses töten?" fragte LeCun und forderte Booch, Marcus, Black und andere auf, "ihre Prophezeiungen des Untergangs der Wissenschaftsgemeinschaft durch LLMs zurückzuziehen?"
Nur wenige Wochen nach Galactica wurde ChatGPT veröffentlicht. "Entgegen ihren Vorhersagen wurde das wissenschaftliche Veröffentlichungssystem durch die Verfügbarkeit von LLMs nicht beeinträchtigt, geschweige denn zerstört. Es war sogar hilfreich", sagte LeCun.
Was sind diese "Prophezeiungen des Untergangs"? Black, der Direktor des Max-Planck-Instituts für Intelligente Systeme ist, hatte während der Einführung Fragen zur Zuverlässigkeit von Galactica und ähnlichen Produkten aufgeworfen.
Im November 2022 postete Black einen Thread mit allen Problemen von Galactica und sagte: "Ich begrüße den Ehrgeiz dieses Projekts, aber warne jeden vor dem Hype darum. Dies ist kein großartiger Beschleuniger für die Wissenschaft oder sogar ein hilfreiches Werkzeug für wissenschaftliches Schreiben. Es ist potenziell verzerrt und gefährlich für die Wissenschaft."
Black antwortete LeCun und sagte, dass seine Kritik aufrichtig war. "Es tut mir leid, aber die Wahrheit ist, dass DU es getötet hast, nicht ich", sagte Black. Er erwähnte, dass LeCun Galactica als "Geben Sie einen Text ein und galactica.ai wird ein Papier mit relevanten Referenzen, Formeln und allem generieren", beworben hatte, was laut Black ein großer Anspruch sei.
Deshalb, als Black den Test durchführte, entsprach Galactica nicht seinen Erwartungen. "Es erfand realistisch aussehende Verweise. Und das auf eine Weise, die authentisch klang", fügte er hinzu und sagte, dass Meta das Richtige getan habe, indem sie es abschalteten, da es den Hype um es nicht gerecht wurde.
Marcus, Professor für Psychologie und Neurowissenschaften an der NYU, ist ein bekannter Kritiker des Deep Learning und AGI, ging ebenfalls zu X, um zu erklären, dass Galactica sein Geburtsdatum, seine Ausbildung sowie seine Forschungsinteressen falsch hatte. Fast 85% der Ergebnisse, die Galactica über Marcus präsentierte, waren nicht wahr.
Ähnlich äußerte Booch, "Galactica ist nicht mehr als statistischer Unsinn im großen Maßstab", und fügte hinzu, dass es amüsant, gefährlich und unethisch sei.
Was die "Prophezeiungen des Untergangs" angeht, hatte Black eine gründliche Analyse der Probleme mit LLMs durchgeführt und gesagt, dass es neue Ethikregeln für wissenschaftliche Veröffentlichungen geben sollte. Er hob Probleme hervor, dass es einen Strom gefälschter wissenschaftlicher Arbeiten geben kann, in einer Branche, die vollständig auf Peer-Reviews und öffentlichem Vertrauen basiert. Er sagte, dass er auch LLMs für Forschungszwecke verwendet und weitere Forschung über LLMs statt Verlangsamung und den Aufbau von Sicherheitsvorkehrungen forderte, um das öffentliche Vertrauen in die Wissenschaft zu verteidigen.
LeCun stimmt dem nicht zu. Er antwortete Black und sagte, dass die negative Reaktion eines Wissenschaftlers zur Abschaltung von Galactica geführt habe. "Einfach ausgedrückt, DU hast es getötet", sagte LeCun und fragte ihn, ob die Galactica-Demo die Welt zu einem besseren Ort gemacht hätte.
Wer hat also Galactica getötet? Black glaubt, dass Meta als Organisation sorgfältiger hätte sein sollen, wenn sie Galactica veröffentlichten, auch nur als Demo, und LeCun die Kritik für die Förderung des Produkts akzeptieren sollte.
"Sie werden wahrscheinlich sagen, dass dies nur eine "Demo" und kein "Produkt" war. Glauben Sie wirklich, dass die Öffentlichkeit dies differenziert, wenn es von Meta kommt, eine schicke Website hat und stark gehypt wird?", fragte Black. Dies macht Sinn. Da Meta es als Software und nicht als Forschungsveröffentlichung veröffentlichte, stellt es Meta ins Rampenlicht, insbesondere wenn die Behauptungen nicht zutrafen.
Obwohl Black LeCun und Metas Bemühungen in Richtung Wissenschaft und Open-Source-KI schätzt, sagte er, dass Meta keine Universität sei und deshalb von der Welt, nicht nur der Akademie, viel Aufmerksamkeit erhalte, was riskanter ist.
Heute sind die Gewichte von Galactica immer noch für die akademische Forschung relevant, aber das Produkt ist nicht für den direkten Gebrauch verfügbar. "Das war eine gute Entscheidung. Es verlagerte den Fokus weg von Galactica als Meta-"Produkt" hin zu einem Forschungsprototyp", sagte Black.
Vielleicht ist das auch der Grund, warum LeCun in Perplexity AI investiert hat, das sich oft als forschungsorientierte Suchmaschine verkauft.
Möglicherweise hat Black recht. Mit den Fortschritten in LLMs und der Gewöhnung der Menschen an sie in der realen Welt klang die Abschaltung von Galactica damals wie ein vernünftiger Schritt. Er hat Galactica nicht getötet, sein Feedback war stark genug, dass Meta es abschalten musste.
Jetzt scheint es jedoch eine gute Zeit zu sein, Galactica endlich wieder zurückzubringen.
