Forscher ärgern sich über OpenAIs zurückhaltende Kommunikation
OpenAI hat Fortschritte in Mathematik, Informatik und Physik verkündet und einen Wandel bei der Veröffentlichung von Ergebnissen angekündigt. Forscher zeigen sich davon wenig beeindruckt und kritisieren, dass das Unternehmen weiterhin wichtige Details zurückhält.
KI Schließen KI Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
Tech Schließen Tech Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
OpenAI Schließen OpenAI Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
Expertenteams, sogenannte Shepherds, sollen entscheiden, wie die neuesten Durchbrüche in der Informatik und Physik am besten geteilt werden.
Robert Hart Schließen Robert Hart KI-Reporter Beiträge dieses Autors werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
Teilen Verschenken Teil Von Der ganzen Dramatik rund um die Übernahme der Mathematik durch KI alle Updates ansehen Robert Hart Schließen Robert Hart Beiträge dieses Autors werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
Am Montag kündigte OpenAI beeindruckende Durchbrüche in Mathematik, Informatik und Physik an, zusammen mit dem, was das Unternehmen einen weiterentwickelten Ansatz zur Kommunikation seiner Ergebnisse nennt. Doch trotz der scheinbaren Kurskorrektur werden Forscher, die mit The Verge gesprochen haben, zunehmend müde vom Verhalten des Unternehmens.
Es waren turbulente Monate zwischen OpenAI und Mathematikern, die noch immer mit den Hunderten von Preprints zu kämpfen haben, die Anfang Oktober unceremoniell über sie abgeschüttet wurden. Diesmal erklärt OpenAI, mit expertenorientierten Shepherds zusammenzuarbeiten, um zu entscheiden, wie die neuesten Durchbrüche am besten geteilt werden.
Alle drei Ergebnisse betreffen einige der bedeutendsten ungelösten Probleme in Mathematik, Informatik und Physik. Manche bauen auf OpenAIs früheren Arbeiten auf, andere erschließen Neuland. Auf Empfehlung der OpenAI-Shepherds verfolgt jedes Ergebnis eine andere Veröffentlichungsstrategie. Beim mathematischen Ergebnis hat OpenAI die KI-generierten Ergebnisse veröffentlicht und damit Forschern die Freiheit gelassen, ihre eigenen Anstrengungen zur Erklärung des Ergebnisses zu organisieren. Für die Informatik-Erkenntnis wird OpenAI zudem eine externe Forschergruppe zusammenstellen, um das Ergebnis zu erklären. Das Physik-Ergebnis wurde hingegen überhaupt nicht veröffentlicht, und OpenAI erklärte, bei der Veröffentlichung der Materialien auf eine externe Expertengruppe zu setzen.
Angesichts der unterschiedlichen Offenlegungsgrade und der Komplexität der Bewertung solcher Arbeiten ist es für Forscher schwierig, die Ergebnisse des Unternehmens vollständig zu beurteilen. Selbst mit allen verfügbaren Informationen würde dies Zeit beanspruchen. Doch Experten, die mit The Verge gesprochen haben, sagten, es gebe gute Gründe, die Ergebnisse ernst zu nehmen, und beschrieben sie je nach Betrachtung als enorm, als große Durchbrüche und als bedeutsam.
Es ergibt keinerlei Sinn, dass zunächst nur wenige ausgewählte Wissenschaftler sie einsehen können.
Doch die Begeisterung der Forscher über die Wissenschaft wurde durch Verärgerung über OpenAIs Vorgehen gedämpft, ein vertrautes Gefühl nach Monaten dessen, was sie als erschöpfende Flut KI-generierter Ergebnisse beschreiben. Viele wünschten sich, dass die breitere Gemeinschaft sich bald der mühsamen Aufgabe widmen kann, die Ergebnisse des KI-Labors zu überprüfen, und fragten, warum OpenAI zusätzliche Barrieren aufbaute, indem es Experten aussuchte, die den Prozess überwachen sollen.
Die meisten Experten, mit denen The Verge sprach, begrüßten OpenAis Entscheidung, externe Forscher einzubeziehen, argumentierten jedoch, dass die öffentliche Ankündigung von Ergebnissen auch bedeuten sollte, dass die Arbeiten für jedermann zur Prüfung zugänglich gemacht werden. Ich bin damit einverstanden, dass sie die Probleme so veröffentlichen, wie sie es heute getan haben, sagte Constantin Kogler, Forscher am Institute for Advanced Study, und begrüßte dabei die überschaubarere Menge von drei Ergebnissen im Vergleich zu den zuvor Hunderten veröffentlichten. Doch die Entscheidung, den Zugang auf von OpenAI ausgewählte Experten zu beschränken, stellte er in Frage. Es ergibt keinerlei Sinn, dass zunächst nur wenige ausgewählte Wissenschaftler sie einsehen können, sagte er.
Dass sie die Gruppe persönlich auswählen, ist eine Katastrophe, sagte Andreas Karch, Physikprofessor an der University of Texas at Austin, gegenüber The Verge. Die großen Labore haben bereits genug Macht. Sie sollten nicht darüber entscheiden, wer Gewinner und wer Verlierer ist. Karch hatte zunächst vorgeschlagen, Forscher durch einen Wettbewerbsprozess auszuwählen, räumte jedoch ein, dass dies wahrscheinlich eine ähnliche Gruppe hervorbringen würde, die er als erstklassig beschrieb. Später fragte er, warum OpenAI den Beweis nicht jetzt veröffentlichen kann, zusätzlich zur Benennung seines Expertenteams. Dies würde den Zugang demokratisieren und gleichzeitig zeigen, dass ihnen daran liegt, die Ergebnisse sinnvoll und verständlich zu machen, sagte er.
Mein Eindruck ist, dass es bei jedem Ansatz jemanden geben wird, der verärgert ist.
Es ist genau die Art von Gatekeeping, vor der die Advisory Group on Mathematics and Artificial Intelligence (AGMAI), eine Expertengruppe, die OpenAI zuvor zur Beratung über die Veröffentlichung seiner Ergebnisse verpflichtet hatte, nur einen Tag vor der Ankündigung gewarnt hatte. Wir empfehlen KI-Unternehmen, diese Praxis nicht zu übernehmen, sagten sie und argumentierten, dass die Auswahl bestimmter Personen, die die Ergebnisse zuerst erhalten, unnötig sei, das Ansehen der ausgewählten Forscher ausleihe und Risiken wie ungleichen Zugang, verzerrte Auswahl und Verzögerungen berge. Stattdessen empfahlen sie, dass KI-Labore ihre Ergebnisse in wissenschaftlichen Repositorien veröffentlichen, mit formalisierten Beweisen und Informationen darüber, wie die Probleme ausgewählt wurden, sowie Förderung und weitere Unterstützung für diejenigen bereitstellen, die an der Verständigung über die Ergebnisse arbeiten.
Nach der Veröffentlichung der neuesten Ergebnisse forderte AGMAI OpenAI auf, die natur- und formalsprachlichen Lean-Ergebnisse hinter den angekündigten Ergebnissen in der Physik unverzüglich öffentlich zu machen:
Während dies zentrale Fragen der Physik sind, sind sie auch wichtige Fragen der Mathematik. Die Existenz der quanten-Yang-Mills-Theorie ist Teil eines Millennium-Preis-Problems, und die Konstruktion wechselwirkender Quantenfeldtheorien in vier Dimensionen ist seit Jahrzehnten ein Ziel der mathematischen Physik.
Wir haben großen Respekt vor den Wissenschaftlern, die OpenAI gebeten hat, diese Arbeit anzuführen. Aber wie wir in unserer kürzlichen Erklärung darlegten, sollte Verständnis im Offenen entstehen, mit gleichem Zugang für alle. OpenAI hat erklärt, die Veröffentlichung bis zum Abschluss der Lean-Formalisierung verzögert zu haben. Nach eigener Aussage ist diese nun abgeschlossen, sodass es keinen wissenschaftlichen Grund gibt, die Veröffentlichung weiter zu verzögern.
Die offene Zugänglichkeit der Ergebnisse könnte auch zu besserer Wissenschaft führen und die breitere Nutzung neuer Werkzeuge wie KI fördern, sagte Hassett. Dass viele Gruppen weltweit sich mit diesen Ergebnissen auseinandersetzen, unterstützt die schnelle Übernahme neuer Werkzeuge durch diejenigen, die sie nutzen möchten, sagte er.
Fundamentale Ergebnisse werden so schnell gelöst, ohne menschlichen Beitrag... die Arbeiten sind schwer zu lesen und zu überprüfen.
Einen Weg zu finden, mit Forschern in den Bereichen zu kommunizieren, in die OpenAI zunehmend vordringt, der jeden zufriedenstellt, mag unmöglich sein. Das Unternehmen erklärt, verschiedene Ansätze auszuprobieren, und räumt ein, dass jeder davon Nachteile hat. Mein Eindruck ist, dass es bei jedem Ansatz jemanden geben wird, der verärgert ist, sagte der Stanford-Mathematiker Jared Duker Lichtman. Es ist also nur eine Frage, die am wenigsten anstößige Option zu finden.
Xiaoyu He, Mathematikprofessor am Georgia Institute of Technology, hält das Problem für tiefer greifend als die Frage, wie OpenAI seine Ergebnisse ankündigt. Die Ergebnisse sind sehr beeindruckend, sagte er, aber ich denke, sie machen eine Show daraus, verantwortungsvoll und bedacht mit der Veröffentlichung von Ergebnissen umzugehen, ohne die Hauptprobleme ändern zu können: dass fundamentale Ergebnisse so schnell gelöst werden, ohne menschlichen Beitrag, und dass die Arbeiten schwer zu lesen und zu überprüfen sind.
Ein kostenloser täglicher Digest der wichtigsten Nachrichten.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
AI Close AI Posts from this topic will be added to your daily email digest and your homepage feed.
Tech Close Tech Posts from this topic will be added to your daily email digest and your homepage feed.
OpenAI Close OpenAI Posts from this topic will be added to your daily email digest and your homepage feed.
Expert ‘shepherds’ will decide how best to share the latest breakthroughs in computer science and physics.
Robert Hart Close Robert Hart AI Reporter Posts from this author will be added to your daily email digest and your homepage feed.
Share Gift Part Of All the drama around AI’s takeover of mathematics see all updates Robert Hart Close Robert Hart Posts from this author will be added to your daily email digest and your homepage feed.
On Monday, OpenAI announced impressive breakthroughs in mathematics, computer science, and physics, along with what the company says is an evolving approach to communicating its findings. But despite its apparent course correction, researchers who spoke to The Verge are growing increasingly tired of the company’s antics.
It has been a turbulent few months between OpenAI and mathematicians, who are still grappling with the hundreds of preprints unceremoniously dumped on them at the start of October. This time, OpenAI says it is working with expert “shepherds” to decide how best to share its latest breakthroughs.
All three results concern some of the most consequential unsolved problems in mathematics, computer science, and physics. Some extend OpenAI’s previous work and others break new ground. Following advice from OpenAI’s “shepherds,” each has a different release strategy. For the mathematics result, OpenAI released the AI-generated output, “leaving researchers free to organize their own efforts to explain the result.” For its computer science finding, OpenAI will also assemble an external group of researchers “to explain the result.” Physics, meanwhile, has not been released at all, and OpenAI said it will “defer” to an external group of experts about how to release the materials.
Given the varying levels of disclosure and the complexity of evaluating such work, it is difficult for researchers to fully judge the company’s findings. Even with all of the information, doing so would take time. But experts who spoke to The Verge said there are good reasons to take the results seriously, variously describing them as “huge,” “major breakthroughs,” and “significant.”
“It doesn’t make any sense that first only a few distinguished scientists can look at them.”
But researchers’ excitement about the science was tempered by exasperation with OpenAI’s conduct, a familiar feeling after months of what they describe as an exhausting barrage of AI-generated findings. Many were eager for the wider community to get on with the arduous task of scrutinizing the AI lab’s findings and questioned why OpenAI was putting up additional barriers by handpicking experts to oversee the process.
Most experts The Verge spoke to welcomed OpenAI’s decision to consult outside researchers, but argued that publicly announcing results should also mean making that work available for anyone to scrutinize. “I am fine with them releasing the problems as they did today,” said Constantin Kogler, a researcher at the Institute for Advanced Study, welcoming the more manageable batch of three results compared with the hundreds released previously. But he questioned the decision to restrict access to experts of OpenAI’s choosing. “It doesn’t make any sense that first only a few distinguished scientists can look at them,” he said.
“The fact that they handpick the group is a disaster,” Andreas Karch, a physics professor at the University of Texas at Austin, told The Verge. “The large labs have enough power as it is. They should not be picking winners and losers.” Karch initially suggested selecting researchers through a “competitive process,” though he acknowledged it would likely produce a similar group, which he described as “first rate.” Later, he questioned why OpenAI “can’t release the proof now,” in addition to appointing its team of experts. “This would democratize access while still showing that they care about making the results meaningful and understandable,” he said.
“My sense is that for any approach, there is going to be someone who is upset.”
It is exactly the kind of gatekeeping the Advisory Group on Mathematics and Artificial Intelligence (AGMAI), a group of experts OpenAI had previously pledged to consult on how to share its findings, warned against just a day before the announcement. “We recommend that AI companies do not adopt this practice,” they said, arguing that selecting certain people to receive the output first is “unnecessary,” borrows the reputation of selected researchers, and risks unequal access, biased selection, and delays, among other issues. Instead, they recommended that AI labs release output on scholarly repositories, with formalized proofs and information on how the problems were chosen, and provide funding and other support for people working on understanding the results.
Following the publication of the latest results, AGMAI urged OpenAI to “make public without delay the natural-language and Lean outputs behind its announced” results in physics:
”While these are central questions in physics, they are also important questions in mathematics. The existence of quantum Yang–Mills theory is part of a Millennium Prize problem and the construction of interacting quantum field theories in four dimensions has been a goal of mathematical physics for decades.
We have great respect for the scientists asked by OpenAI to lead this work. But as we explained in our recent statement, understanding should develop in the open, with everyone given the same access. OpenAI have said they delayed release until the Lean formalization was complete. By their own account this is now complete, so there is no scientific reason for delaying the release any further.”
Making the findings openly available could also lead to better science and encourage wider adoption of new tools like AI, Hassett said. “Having many groups around the world wrestle with these results supports rapid adoption of new tools by those that would like to use them,” he said.
”Fundamental results are being solved so quickly without human contribution... the papers are difficult to read and verify.”
Finding a way to communicate with researchers in the fields OpenAI is increasingly encroaching on that satisfies everyone may be impossible. The company says it is experimenting with different approaches and acknowledges that each has tradeoffs. “My sense is that for any approach, there is going to be someone who is upset,” said Stanford mathematician Jared Duker Lichtman. “So it’s just a question of finding the least offensive option.”
Xiaoyu He, a mathematics professor at the Georgia Institute of Technology, thinks the problem is deeper than how OpenAI chooses to announce its findings. ”The results are very impressive,” he said, “but I think they are making a show of trying to be responsible and thoughtful about how they release results while not being able to change the main issues: that fundamental results are being solved so quickly without human contribution, and that the papers are difficult to read and verify.”
A free daily digest of the news that matters most.