Warum AlphaFold das Protein Folding nicht geloest hat
Pushmeet Kohli von Google DeepMind und Sal Candido von Biohub diskutieren die ungelosten Raetsel der Proteinfaltung. Im Gespraech geht es darum, was es braucht, um KI zu bauen, die Biologie wirklich versteht.
2 1 × 0:00 Aktuelle Zeit: 0:00 / Gesamtdauer: -31:55 -31:55 Die Audiowiedergabe wird von Ihrem Browser nicht unterstützt. Bitte aktualisieren Sie ihn. Warum AlphaFold das Proteinfalten nicht gelöst hat — Pushmeet Kohli, Google DeepMind & Sal Candido, Biohub, 10.
Oktober 2026, 2 Mal geteilt, Transkript: Von der Bitter Lesson des AI-Scalings bis zu den ungelösten Rätseln des Proteinfaltens denken Pushmeet Kohli von Google DeepMind und Sal Candido von Biohub neu darüber nach, was es braucht, um KI zu entwickeln, die Biologie wirklich versteht. In dieser von Brandon Anderson moderierten Sonderrunde erläutern sie, warum AlphaFolds Durchbruch erst der Anfang war, warum das Skalieren von Rechenleistung und Daten allein die Biologie nicht lösen wird und wie die nächste Generation von KI-Modellen unser Verständnis von Proteinen, Zellen und menschlichen Krankheiten transformieren könnte.
Wir gehen tief auf die Zukunft der KI-getriebenen Biologie ein: auf das Auffinden von Scaling Laws in biologischen Daten, die Abwägungen zwischen wissenschaftlicher Intuition und universellen Architekturen, warum die Vorhersage von Proteinstrukturen längst nicht gelöst ist und was es brauchen würde, um prädiktive Modelle lebender Systeme zu bauen. Pushmeet reflektiert über die Lehren hinter AlphaFold, die Grenzen menschlicher Interpretierbarkeit und die Frage, ob künftige Frontier-Modelle andere KI-Systeme besser verstehen könnten als wir. Sal erklärt, warum Proteinsprachmodelle möglicherweise bereits wissenschaftliches Wissen enthalten, das wir noch nicht erschlossen haben, wie biologische Modellierung über einzelne Proteine hinausgehen muss und warum die Mission von Biohub, alle Krankheiten zu heilen, ein Denken in 10x-Durchbrüchen statt in schrittweisen Verbesserungen erfordert.
Die Bitter Lesson für die Biologie: warum das Skalieren von Rechenleistung und Daten nicht ausreicht
Warum das Finden der richtigen Scaling Law wichtiger ist als das blinde Vergrößern des Modells
Wie metagenomische Daten geringer Qualität Proteinsprachmodelle verbessern können
Warum KI-Forscher für verfügbare Daten statt für die wichtigsten wissenschaftlichen Probleme optimieren
Lehren von DeepMind zum Ausgleich von Modellierung, Datengenerierung und Fachexpertise
Warum der Aufbau einer virtuellen Zelle grundlegend andere Datensätze erfordert
AlphaFolds handgefertigte Architektur und die Rolle wissenschaftlicher Intuition
Warum gute Daten wichtiger sind als schlicht mehr Daten
Inductive Biases, Scaling Laws und die Zukunft spezialisierter KI-Architekturen
Warum wir nicht in einer Post-Transformer-Welt sind, sich Architekturen aber weiterentwickeln
Warum AlphaFold das Proteinfalten tatsächlich nicht vollständig gelöst hat
Proteindynamik, Unordnung und die Grenzen statischer Strukturvorhersage
Wie Kryo-EM-Mikroaufnahmen reichere biologische Repräsentationen erschließen könnten
Der Weg von Modellen einzelner Proteine hin zu ganzen biologischen Systemen
Feynmans berühmtes Prinzip und warum KI heute Dinge erschaffen kann, die wir nicht verstehen
Das verborgene biologische Wissen in Proteinsprachmodellen
Warum Vertrauenswürdigkeit und Unsicherheitskalibrierung wichtiger sind als vollständige Interpretierbarkeit
Ob Frontier-KI-Modelle andere KI-Systeme besser interpretieren könnten als Menschen
Wann KI eine 10x- bis 100x-Beschleunigung in der Wirkstoffforschung liefern könnte
Warum das Heilen aller Krankheiten ein Denken in 10x-Durchbrüchen statt in 10-Prozent-Verbesserungen erfordert
LinkedIn: Pushmeet Kohli
Biohub: Salvatore Candido
LinkedIn: Sal Candido
LinkedIn: Brandon Anderson
00:00:00 Einführung: Die Bitter Lesson für biologische Daten
00:01:00 Scaling Laws und die richtigen Daten für die Biologie finden
00:04:54 DeepMinds Bitter Lesson: Probleme lösen gegen Modelle skalieren
00:06:50 AlphaFold, Datenlimitierungen und der Aufbau der virtuellen Zelle
00:09:52 Handgefertigte Architekturen gegen das Skalieren von Rechenleistung
00:11:53 Gute Daten, Inductive Bias und Modelldesign
00:13:39 Jenseits von Transformern: Die Zukunft der KI-Architekturen
00:14:38 Warum AlphaFold das Proteinfalten nicht gelöst hat
00:17:39 Proteindynamik, Design und Kryo-EM
00:19:09 Von einzelnen Proteinen zu ganzen biologischen Systemen
00:20:43 Feynmans Prinzip: Erschaffen ohne Verstehen
00:22:18 Das verborgene Wissen in Proteinsprachmodellen
00:23:48 AlphaFold, Vertrauenswürdigkeit und Interpretierbarkeit
00:25:56 Könnte KI andere KI-Modelle besser verstehen als Menschen?
00:27:43 Wann wird die KI die Arzneimittelforschung revolutionieren?
00:29:47 Warum die Heilung aller Krankheiten zehnfache Durchbrueche erfordert
Einleitung: Gibt es eine bittere Lektion fuer Daten? Brandon Anderson [00:00:04]: Schoen, hier zu sein. Was fuer ein aufregender Morgen. So viele spannende Ankuendigungen. Ich glaube, die Zukunft der Biowissenschaften wird genau hier verkuendet. Dies ist die Modeling-Session. Wir sind alle Modellierer, daher ist es natuerlich nur konsequent, dass wir ueber Daten sprechen.
Eines der Dinge, bei denen ich gerne darueber nachdenke, wenn es um Daten geht, ist, wie man sie richtig skaliert. Das hat mich zu der Frage nach der bitteren Lektion gefuehrt, allerdings neu gerahmt im Kontext von Daten. Die bittere Lektion ist, fuer diejenigen unter Ihnen, die nicht aus der KI-Welt kommen, die Aussage, dass Methoden, die skalieren, langfristig gewinnen. Wenn man genug skalieren kann, gewinnt man. Meine Frage, zu Beginn an Sal gerichtet, lautet daher: Gibt es eine bittere Lektion fuer Daten?
Sal Candido [00:01:00]: Auf jeden Fall. Man benoetigt natuerlich die richtigen Daten, damit es funktioniert. Ein Missverstaendnis bei Scaling Laws ist, dass sie ueberall existieren und immer vorhanden sind. Ein Grossteil der Arbeit besteht tatsaechlich darin, diese Scaling Law erst einmal zu finden. Vieles von dem, was wir tun, ist der Versuch herauszufinden: In welcher Situation erhaelt man ein besseres Ergebnis, wenn man mehr Rechenleistung und mehr Daten hineinsteckt?
Das ist eine grossartige Situation, denn sobald das der Fall ist, kann man denregler umdrehen. Es wird zu einem Ingenieurproblem, und das gefaellt mir. Das haengt mit der Architektur zusammen, aber es hat sehr viel auch mit Daten zu tun. Wenn man keine Daten mit den richtigen Informationen und Statistiken hat, um das gewuenschte Problem zu loesen, wird man kein Modell erhalten, das die gewuenschten Faehigkeiten und das gewuenschte Verstaendnis besitzt. Man kann wirklich nur Informationen aus den Daten ziehen, die man hat, und daraus verallgemeinern.
Brandon Anderson [00:02:09]: Wenn es um die Erhebung von Daten geht, wie denkst du darueber, welche Modalitaeten am besten geeignet sind? Eine verwandte Frage: Arbeiten Modellierer eher an Problemen, fuer die Daten verfuegbar sind, statt an Problemen, die ihren Zielen am besten dienen oder den groessten Einfluss auf die translationale Medizin haben?
Sal Candido [00:02:32]: Ganz sicher. Ich kann nicht fuer alle Modellierer sprechen, aber ich bin faul, also arbeite ich mit dem, was verfuegbar ist. Das hat eine gute und eine schlechte Seite.
Die gute Seite ist, dass man beim klassischen maschinellen Lernen oft nach den saubersten, hochwertigsten Datenbeispielen sucht, die man finden kann. Aber wenn man wie ich ist, wuehlt man im Hinterraum herum, durchsucht den Kram anderer Leute und schaut, was es dort gibt. Ein konkretes Beispiel ist das Training eines Protein-Sprachmodells auf metagenomischen Sequenzen, die nicht die hochwertigsten Daten sind. Ein grossteil dieser Daten ist, das kann ich Ihnen garantieren, nicht einmal ein echtes, vollstaendiges Protein. Und trotzdem steigert es die Leistung des Modells beim Entwerfen echter, funktionierender Proteine und beim Verstehen von Proteinen, von denen wir wissen, dass sie existieren.
Das ist die positive Seite. Aber es kann einen auch an einen negativen Ort fuehren, an dem man sagt: „Lassen Sie uns einfach die Daten skalieren, die wir leicht generieren koennen.“ Ich glaube nicht, dass das unbedingt der richtige Weg ist. Eines der Dinge, die mich an dem, worueber wir heute hier mit dem BBI sprechen, begeistern, ist genau das: hinzugehen und zu fragen: „Welche Daten brauchen wir, um das Problem zu loesen?“
Es geht um die richtigen Ressourcen, aber auch um die richtige Community. Eines der Dinge, die wir bei Biohub versuchen, ist offen zu arbeiten, mit der Community zusammenzuarbeiten und die gesamte Community voranzubringen. Das ist entscheidend, denn wenn man nur Leute hat, die Modelle bauen, werden wir uns zu den existierenden Daten hingezogen fuehlen. Wenn man nur Leute hat, die Daten generieren, werden sie sich zu den Dingen hingezogen fuehlen, die generiert werden koennen. Aber wenn man als Community gemeinsam, bei jedem Schritt und auf offene Weise, zusammenarbeiten kann, kann man herausfinden, welche Daten man tatsaechlich braucht. Dann kann man diese Scaling Law finden.
Brandon Anderson [00:04:50]: Pushmeet, was haeltst du von der bitteren Lektion fuer Daten?
Pushmeet Kohli [00:04:54]: Ich war bei DeepMind, als Rich bei uns war und ueber diese Idee der bitteren Lektion nachdachte. Was ich aus Rigs urspruenglichem Vortrag bei DeepMind mitgenommen habe, war nicht die spezifische Vorstellung, ob Daten nuetzlich sind oder wie wir ueber maschinelles Lernen nachdenken sollten. Mein Eindruck war, dass er ueber etwas Konzeptionelleres sprach.
Manchmal betrachten wir Probleme auf eine sehr religioese Weise und denken ueber Loesungen nach: „Ich bin ein Modellierer“ oder „Ich bin ein Datengenerierungsmensch“. Das ist, glaube ich, die bittere Lektion. Wenn man ein Problem mit dieser Denkweise angeht, koennte man scheitern. Das Problem steht an erster Stelle, und man sollte im Loesungsraum flexibel sein. Man sollte beides ausprobieren. Man sollte das Problem verstehen, das man loesen will. Wenn es Modellierungsaufwand erfordert, dann betreibe man den Modellierungsaufwand. Wenn es erfordert, mehr Daten zu sammeln, dann sammle man Daten.
Was damals im maschinellen Lernen passierte, war, dass Leute sagten: „Wir sind Forscher im Bereich maschinelles Lernen. Der Datensatz ist da. Hier sind Trainingsdaten, hier sind Testdaten, und wir optimieren einfach das Modell.“ Das ist defekt in dem Sinne, dass man, wenn das eigentliche Ziel die Loesung des Problems ist, beide Aspekte dessen betrachten muss, was in den Prozess einfliesst.
Und was in den Prozess einfliesst, ist nicht nur Daten oder Modellierung. Es ist auch Expertise. Bei AlphaFold zum Beispiel haben wir uns angeschaut, was mit den vorhandenen Datensaetzen moeglich war, weil wir weder die Kernexpertise hatten noch die Ressourcen, um zu sagen: „Lassen Sie uns die PDB um eine signifikante Groessenordnung erweitern.“ Die Investitionen, die Organisationen und Wissenschaftler auf der ganzen Welt in den Aufbau dieser Daten gesteckt hatten, waren von unschaetzbarem Wert. Dort musste man sich also darauf konzentrieren, durch Investitionen in die Modellierung das groesste Ergebnis fuer seinen Aufwand zu erzielen.
Aber in anderen Bereichen, etwa der Zellgenomik, gingen wir den gleichen Weg und fragten: „Was kann man mit Zell-zu-Gen-Daten machen?“ Nach viel Arbeit wurde sehr deutlich, dass die Daten noch nicht da waren, um diese grosse Ambition zu verfolgen, die virtuelle Zelle zu bauen. Das bringt Menschen dazu, sich gemeinsam auf die eigentlichen Herausforderungen der Weiterentwicklung der Wissenschaft zu konzentrieren, statt blind den Fortschritten bei der Datengenerierung oder der Modellierung zu folgen.
Brandon Anderson [00:08:23]: Diese Antwort gefaellt mir sehr gut. Was ist die umsetzbare Erkenntnis? Das Problem immer zuerst definieren und dann herausfinden, welcher Loesungsraum durchsucht werden soll. Aber allgemein gefragt: Wie sollte die Community darueber nachdenken, wenn wir uns auf die naechste Generation der translationalen Medizin zubewegen?
Pushmeet Kohli [00:08:47]: Der Rat, den ich jedem gebe, der in diesem Bereich anfaengt, ist, sich als multidisziiplinaeren Menschen zu verstehen. Verstehe zuerst das Problem. Warum arbeitest du daran? Was willst du erreichen? Dann denke darueber nach, was noetig ist, ob das Modellierung, Rechenleistungsskalierung oder Datengenerierung ist. Das Problem zu verstehen ist ausserordentlich wichtig, und natuerlich muss man seine Expertise aufbauen.
Es gibt auch Einschraenkungen. Vielleicht kann man nur eine gewisse Menge an Daten generieren oder sich nur eine bestimmte Modellgroesse zum Training leisten. Verstehe diese Einschraenkungen, versuche schnell zu scheitern, und schau, welche Ansaetze langfristig realisierbar sein werden, um das gewuenschte Wirkungsniveau zu erreichen.
Brandon Anderson [00:09:52]: Das fuehrt direkt zu meiner naechsten Frage. Wenn ich die Entwicklung der Modellierung betrachte, war AlphaFold 2 im Wesentlichen ein Kunstwerk, mit vielen sorgfaeltig handgefertigten Merkmalen. In jeden Teil der Loesung floss sehr bewusste Ueberlegung ein. Einige der Arbeiten von Google bzw. Alphabet bewegen sich noch in diesem Bereich, aber der allgemeine Konsens scheint sich zu skalierbareren, allgemeineren Strategien zu bewegen.
Brauchen wir fuer bestimmte Probleme weiterhin handwerkliche, kunsthandwerkliche Loesungen? Oder sind Ressourcen besser investiert, wenn man sich zunaechst auf die Skalierung konzentriert? Bei festen Ressourcen und Geldmitteln kann man in Rechenleistung, Talente oder Daten investieren. Wie sollten wir ueber diesen Kompromiss nachdenken?
Pushmeet Kohli [00:10:48]: Gehen wir es von den Grundsaetzen aus. Die Kunst und das Handwerk, ein besseres Modell zu konstruieren, war kein Zufall. Wir haben viele Experimente durchgefuehrt, aber dahinter stand eine Vision. Die wissenschaftliche Intuition aus der Biophysik und Biochemie sagte uns, dass Aminosaeurereste nicht einfach ihr eigenes Ding machen. Sie werden von anderen Resten beeinflusst. Also lassen Sie uns das einbauen. Wenn man etwas aus der wissenschaftlichen Community gelernt hat, sollte man diese Informationen nutzen. Dem Modell diesen unfairen Vorteil geben.
Das macht das Modell viel dateneffizienter, weil es nicht alles neu lernen muss. Ich muss auch erwaehnen, dass die Kuratierung guter Daten eine Kunst fuer sich ist. Man kann nicht einfach sagen: „Wirf mehr Daten hinein.“ Wenn man dieselben Daten repliziert, kommt man nicht weiter. Es geht nicht nur um Big Data; es geht um gute Daten und um das Verstaendnis der Datenabdeckung, die noetig ist, um Fortschritte zu machen. Das ist an sich ein viel interessanteres und anspruchsvolleres Problem.
Brandon Anderson [00:12:20]: Es scheint, als haettest du einen Gedanken, Sal. Was denkst du?
Sal Candido [00:12:24]: Da stimme ich voll und ganz zu. Es hängt vom zu lösenden Problem ab. Wenn man nur eine kleinere Datenmenge zur Verfügung hat, hilft es, mehr inductive bias im Modell zu haben. Man braucht das tatsächlich, um bei kleineren Datenmengen überhaupt Ergebnisse zu erzielen. Je mehr Daten man bekommt, desto eher findet das Modell manchmal Dinge, die man selbst nicht unbedingt kannte, und manchmal kann eine inductive bias, wenn sie nicht exakt korrekt war, einen eher zurückhalten. Es gibt einen Wendepunkt, wenn die Dinge besser werden.
Aber ich widerspreche Ihrer Frage auch ein wenig, denn auch beim Skalieren steckt viel Handwerk. Es gibt sehr viel algorithmische Arbeit, die darin besteht, Modelle auf mehr Daten zu trainieren, mehr Rechenleistung hineinzustecken und sie größer zu machen. Das ist nicht nur eine Frage der Infrastruktur oder davon, die Modelle bei der Inferenz schneller zu machen. Wir sehen Entwicklungen, die über die klassischen Transformer hinausgehen und zu maßgeschneiderteren Architekturen führen. Ich glaube nicht, dass wir in einer Post-Transformer-Welt angekommen sind, in keinerlei Hinsicht, aber wir verändern diese Architekturen, damit sie besser zum Zweck passen und besser funktionieren, selbst bei datenmengen in Internetgröße.
Wenn immer mehr Daten hereinkommen, besteht die Herausforderung nicht nur darin, diese Daten zu kuratieren oder die nächste Charge an Informationen auszuwählen, die die Modelle benötigen. Es geht auch darum, bei jedem Schritt und auf jeder Größenskala zu fragen, welche Architektur die richtige ist, um das Maximum aus diesen Informationen herauszuholen.
Brandon Anderson [00:14:36]: Wenn man sich den aktuellen Stand der Proteinstrukturvorhersage ansieht, melden die Nachrichten, dass das Problem der Proteinstrukturvorhersage gelöst sei. Aber wenn man mit meinen Freunden spricht, sagen sie: „Hier bleibt noch so viel zu tun.“ Funktion, Dynamik und Design sind weiterhin völlig offene Probleme. Es ist etwa fünf Jahre her, dass AlphaFold 2 vorgestellt wurde, und es wurde Fortschritt erzielt.
Pushmeet, glaubst du, dass ein weiterer großer Sprung bevorsteht? Gibt es Hindernisse bei der Lösung dieser Probleme? Fehlen uns die richtigen Daten, Algorithmen oder Ideen? Oder ist es nur eine Frage der Zeit?
Pushmeet Kohli [00:15:28]: Wissenschaft funktioniert so, dass man etwas isoliert und dann Schritt für Schritt Fortschritte macht. Wenn Menschen sagen, das Proteinfaltungsproblem sei gelöst, dann gab es auf einer konzeptionellen Ebene durchaus Fortschritte. Aber denken Sie an die Erzählung, Proteine seien die Bausteine. Proteine sind keine Bausteine, und sie verhalten sich auch nicht wie solche. Ich sage ständig, dass Proteine die Bausteine sind, aber ich glaube eigentlich nicht daran.
Proteine sind äußerst komplex. Sie sind ungeordnet. Ihre Form kann sich je nach Kontext verändern. John Jumper und ich haben darüber gesprochen: Was versuchen wir eigentlich zu lösen? Wir kennen den tatsächlichen wahren Grundzustand, den Proteine einnehmen, nicht, ebenso wenig die tatsächliche Verteilung der Strukturen, die Proteine annehmen. Was wir versuchten, war die Reproduktion einer Struktur, die jemand ermittelt und in der PDB hinterlegt hatte. Das haben wir getan. Und es stellt sich heraus, dass es nützlich ist.
Das bedeutet aber nicht, dass wir die gesamte Proteindynamik verstanden haben. Auf der obersten Ebene lässt sich leichter kommunizieren, dass wir Fortschritte gemacht haben, aber die Wissenschaftler in dieser Runde wissen, wie viel noch zu tun bleibt. Es gibt viel zu feiern, aber hören wir bitte nicht auf, die Vorhersage von Proteinstrukturen und Proteindynamiken zu fördern, denn wir stehen erst am Anfang.
Brandon Anderson [00:17:39]: Was ist das größte Hindernis? Wenn du mit einem Zauberstab sagen könntest: „Wir haben mehr davon“, und das würde Funktion, Dynamik oder Design beschleunigen, was würdest du in die Welt setzen?
Pushmeet Kohli [00:17:54]: Mein Hintergrund ist ziemlich vielseitig. Ich habe als Security-Forscher angefangen, bin dann zu Computer Vision gewechselt, zur Bayes’schen Theorie, zu diskriminativem maschinellen Lernen, Deep Learning, KI für Programmierung und schließlich zur Wissenschaft. Wenn du mir diese Frage stellst, freut sich der Computer-Vision-Forscher in mir sehr über Kryo-EM-Mikrografien.
Ich dachte: „Was ist dieses PDB-Datenmaterial eigentlich? Ich sollte an der Quelle arbeiten. Ich sollte mir Kryo-EM-Mikrografien ansehen. Ich will diese Strukturen gar nicht. In ihnen muss ein Großteil der Daten verloren gehen. Ich sollte direkt mit Kryo-EM-Mikrografien arbeiten.“
Modelle zu bekommen, die auf dieser Ebene skalieren können, mit der richtigen Datenmenge, und die Dynamik und die darin enthaltenen Verteilungsinformationen extrahieren würden, wäre großartig. Ich habe es versucht, aber es erfordert mehr Arbeit.
Brandon Anderson [00:18:57]: Es gibt also noch Arbeit zu tun, aber du glaubst, dass das ein Weg sein könnte, an diese Informationen zu gelangen?
Pushmeet Kohli [00:19:00]: Ja. Ich denke, irgendwann werden vielleicht einige Leute, die besser sind als ich, es versuchen, und dann kommen wir weiter.
Brandon Anderson [00:19:07]: Was denkst du, Sal?
Sal Candido [00:19:09]: Das ist interessant, denn diese Modelle sind durchaus nützlich, aber sie lösen nicht exakt das Problem, das die meisten Menschen lösen wollen. Sie erfüllen einen sehr spezifischen Zweck, und man kann sie auch für andere Dinge nutzen. Man kann mit ihnen beispielsweise neue Proteine entwerfen, was nicht unbedingt das ist, womit man anfangen würde.
Ich denke bei den Modellen, die wir gerade bauen, an jemanden, der verstehen möchte, wie ein Fahrrad funktioniert, aber dabei eine Speiche davon modelliert. Diese Modelle können im Laufe der Zeit immer besser werden, aber was man wirklich tun muss, ist, von Modellen der Speichen zu Modellen der Räder und dann zum ganzen Fahrrad zu gelangen, denn das wollen die Menschen verstehen. Um die Analogie fortzuführen: Es scheint, als wollten die Menschen mit einem Modell des Fahrrads ein Teil für einen Pickup entwerfen.
Wenn wir diese Modelle in den jeweiligen biologischen Kontext einbetten, in dem sie arbeiten, werden wir mehr über diese Wechselwirkungen in einem breiteren Maßstab lernen können. Dorthin geht meiner Meinung nach die Reise. Aber ich stimme zu, dass wir an Faltungsmodellen weiterarbeiten sollten, denn sie werden immer besser werden.
Brandon Anderson [00:20:43]: Zum Thema Design gibt es ein berühmtes Feynman-Zitat: „Was ich nicht erschaffen kann, verstehe ich nicht.“ Mittlerweile leben wir in einer Welt, in der es sehr leicht ist, Dinge zu erschaffen, ohne sie überhaupt zu verstehen. Wie wichtig ist es, Modelle zu haben, die Menschen beim Verstehen helfen, gegenüber magischen Black Boxes, die quasi im Handumdrehen einen pikomolaren Binder oder Ähnliches entwerfen können?
Sal Candido [00:21:18]: Wir haben schon lange vor der KI Dinge mit magischen Black Boxes entworfen. In gewisser Weise ist das immer noch nützlich. Aber Verständnis ist wirklich wichtig, und das ist einer der großen Aspekte, über die ich bei KI nachdenke.
Diese Modelle haben noch so viel zu lernen. Da Intelligenz immer günstiger und verfügbarer wird, kann man sie einsetzen, um immer mehr über das zu lernen, was in der Welt vor sich geht. Aber wie zieht man dieses Wissen aus der Maschine heraus, sodass ich es verstehen kann? Vielleicht ist das nur meine verschwommene Neugier. Ich denke, es gibt so viel zu lernen.
Brandon Anderson [00:22:05]: Viele Wissenschaftler wollen die Dinge wirklich verstehen, und die Endpunkte sind ihnen vielleicht nicht so wichtig. Aber wir sind hier, um die translationale Medizin als Problem zu lösen, oder?
Sal Candido [00:22:18]: Je tiefer man sich in die Dinge hineingrabt, desto mehr findet man den richtigen Weg, sie weiter voranzutreiben. Eine Sache, die mir besonders auffällt, ist, dass diese Modelle weit mehr Informationen in sich tragen, als wir wissen.
Wir haben viel an Interpretierbarkeit für unsere Modelle gearbeitet, und man findet dort viele Informationen. Menschen wissen, dass Protein-Sprachmodelle in ihren Repräsentationen eine gewisse Vorstellung von Struktur lernen, aber wir finden darin auch Informationen über Funktionen und Bewegungen. Es gibt noch sehr viel zu entschlüsseln, selbst bei den Modellen, die wir bereits haben. Das ist wichtig für unser Verständnis, wenn wir ihre Fähigkeiten ausbauen.
Letztlich erwartet man, dass sich aus der Komprimierung all dieser Informationen in ein Modell ein Weltmodell herausbildet. Wie erledigt es seine Aufgabe? Wie entwirft es ein Protein? Es hat Informationen aus der Evolution in dieses Modell komprimiert. Neben der Fähigkeit, etwas Nützliches für uns hervorzubringen, lässt sich sicher auch allein durch den Blick nach innen etwas lernen.
Brandon Anderson [00:23:48]: Was denkst du, Pushmeet? Design versus Verständnis?
Pushmeet Kohli [00:23:53]: Ich sehe das etwas anders, in dem Sinne, dass ein gewisses Maß an Verständnis notwendig ist. Lassen Sie mich erklären, welche Ebene ich meine.
AlphaFold ist nicht perfekt. AlphaFold 2 erreichte auf diesem Datensatz damals einen GDT-Score von etwa 90. Aber selbst wenn es einen GDT-Score von 95 gehabt hätte, wer hätte ihm vertraut, wäre sein pLDDT-Score vollständig unkalibriert gewesen? Stellen Sie sich vor, es hätte wie durch Zauberhand gute Antworten geliefert, Ihnen aber gesagt, es sei sehr zuversichtlich, und Sie hätten dann ein Jahr lang daran gearbeitet, nur um festzustellen, dass alles völlig falsch war. Die Kalibrierung des Unsicherheitsmaßes war äußerst wichtig.
In diesem Sinne verstehen wir AlphaFold 2 durchaus, und wir haben große Fortschritte dabei gemacht zu verstehen, wie es sich verhält. Das ist etwas anderes, als zu verstehen, wie es intern zur Lösung gelangt ist. Da stimme ich Sal zu, dass die Interpretierbarkeit fragt: Warum hat es funktioniert? Warum hat es diese Antwort geliefert?
Auf der höchsten Ebene war AlphaFold 2 in seinem Verhalten und seiner Fähigkeit zu generalisieren interpretierbar, und wir haben nicht alles darüber entdeckt, bevor wir es veröffentlicht haben. Als wir AlphaFold 2 veröffentlichten und die Modellgewichte verfügbar machten, stellten die Leute fest, dass es ein hervorragender Prädiktor für ungeordnete Proteine war. Es konnte erkennen, welche Elemente eines Proteins ungeordnet sind. Das zeigt, dass es generalisiert.
Aber Interpretierbarkeit stellt eine andere Frage: Interpretierbar für wen? Wenn man damit meint, interpretierbar durch ein menschliches rationales System mit den kognitiven und rechnerischen Grenzen des menschlichen Gehirns, dann nein, AlphaFold 2 ist nicht interpretierbar. Wenn man aber fragt, ob AlphaFold 2 für ein viel größeres, deutlich ausgereifteres Modell in Bezug auf seine Funktionsweise interpretierbar ist, dann vielleicht schon. Wir verstehen es einfach nicht.
Als Nutzer von AlphaFold 2 müssen wir wirklich verstehen, was es kann und was nicht. Die Verhaltensmerkmale, Stärken und Grenzen des Modells zu verstehen, ist äußerst wichtig. Wir können diese Modelle nicht einfach ohne eine solche Charakterisierung einsetzen, denn sonst können sie uns eher schaden als nützen.
Brandon Anderson [00:26:53]: Sie sagen also, dass Interpretierbarkeit im strengen Sinne nicht notwendig ist, sondern dass man sich darauf konzentrieren sollte, sicherzustellen, dass ein Modell vertrauenswürdig ist, damit Menschen handlungsrelevante Entscheidungen treffen können.
Pushmeet Kohli [00:27:04]: Genau. Interpretierbarkeit liegt auch im Auge des Betrachters. Wer interpretiert es? Wenn ein menschlicher Wissenschaftler versucht zu interpretieren, wie das Modell eine Vorhersage trifft, ist das eine andere Frage, als einem anderen, viel größeren LLM Zugriff auf die Aktivierungsschichten zu geben und zu fragen: Kannst du vorhersagen, was AlphaFold tun wird? Vielleicht werden diese Frontier-Modelle der Zukunft in der Lage sein, genau das vorherzusagen und eine Theorie darüber zu entwickeln, wie AlphaFold 2 seine Ergebnisse interpretiert und erzeugt hat.
Brandon Anderson [00:27:43]: Wir haben eine Zwei-Minuten-Warnung, also eine letzte Frage an euch beide. Es besteht eine echte Chance, dass KI in naher Zukunft dramatische Verbesserungen für die menschliche Gesundheit bewirken wird. Ich mag quantitative Vorhersagen. Beste Schätzung: Wie lange wird es dauern, bis wir KI-Ergebnisse in der Klinik sehen? Pushmeet, möchtest du anfangen?
Pushmeet Kohli [00:28:08]: Ich denke, KI-Ergebnisse in der Klinik ist eine schlecht gestellte Frage. KI wird heute bereits in jedem Teil des Prozesses zur Entwicklung neuer Medikamente eingesetzt. Aus dieser Perspektive ist sie schon da.
Aber wenn Sie fragen, wann wir eine zehnfache oder hundertfache Beschleunigung der Zeitspannen sehen werden, dann lautet die nächste Frage: Was beschleunigen wir? Ist es die Leitstruktur-Optimierung? Die Identifizierung von Zielmolekülen? Die präklinische Arbeit oder die Toxikologie?
In den nächsten Jahren, und genau deshalb ist der heute angekündigte Vorstoß so äußerst wichtig, müssen wir einige der schwierigen Herausforderungen der Biologie angehen. Nur dann werden wir die echten Beschleunigungen erreichen, die die Arzneimittelforschung dramatisch verändern. KI wird weiterhin ständig in Dingen eingesetzt werden, die in die Klinik gelangen, aber die größere Beschleunigung wird erst freigesetzt, wenn man die biologischen Modelle, die dieser Vorstoß schaffen will, besser versteht.
Brandon Anderson [00:29:43]: Alles klar, danke. Sal, eine kurze Antwort, wenn möglich. Uns läuft fast die Zeit davon.
Sal Candido [00:29:47]: Ich bin versucht, mir tatsächlich meinen Biohacker-Hut aufzusetzen, um diese Frage zu beantworten. Es ist wichtig, darüber nachzudenken, was es bedeutet, das Feld voranzubringen. Was wir wirklich sehen wollen, ist, dass Ergebnisse beeinflusst werden. Wann wird ein Medikament vollständig von KI entwickelt? Ich weiß es nicht. Das ist schwer vorherzusagen. Aber ich glaube, dass wir sehr schnell rasante Fortschritte sehen werden, weil all diese Werkzeuge bereits im Einsatz sind.
Um auf Ihren Punkt zur Grundlagenforschung und zum grundlegenden Verständnis zurückzukommen: Eine Sache, die ich vor langer Zeit in meiner Karriere, damals bei Google, gelernt habe, ist, dass es manchmal einfacher ist, ein Problem anzugehen, indem man fragt, was es bräuchte, um eine zehnfache statt einer zehnprozentigen Verbesserung zu erzielen. Das liegt nicht daran, dass der Weg zur zehnfachen Verbesserung notwendigerweise einfacher ist. Sondern daran, dass er einen breiteren Blick erlaubt und Lösungen sichtbar macht, an die man bisher nicht herangetreten ist. Man kehrt zu den Grundprinzipien zurück und fragt: Wie werden wir das angehen? Wie werden wir das wirklich vorantreiben?
Beide Ansätze, die zehn Prozent und die zehnfache Verbesserung, sind wertvoll, und wir sollten beide verfolgen. Ich freue mich sehr, dass wir bei Biohub eine wunderbare und ehrgeizige Mission haben: alle Krankheiten zu heilen. Wenn man das tun will, muss man wirklich herausfinden, was der zehnfache Ansatz ist. Es ist eine großartige Gelegenheit, das tun zu können.
Brandon Anderson [00:31:46]: Großartig. Danke euch beiden. Danke, dass Sie im wahrsten Sinne des Wortes auf dem heißen Stuhl saßen. Sehr interessant.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
2 1 × 0:00 Current time: 0:00 / Total time: -31:55 -31:55 Audio playback is not supported on your browser. Please upgrade. Why AlphaFold Didn't Solve Protein Folding — Pushmeet Kohli, Google DeepMind & Sal Candido, Biohub Oct 10, 2026 2 Share Transcript From the Bitter Lesson of AI scaling to the unsolved mysteries of protein folding, Google DeepMind’s Pushmeet Kohli and Biohub’s Sal Candido are rethinking what it takes to build AI that truly understands biology. In this special panel moderated by Brandon Anderson, they explore why AlphaFold’s breakthrough was only the beginning, why scaling compute and data alone won’t solve biology, and how the next generation of AI models could transform our understanding of proteins, cells, and human disease.
We go deep on the future of AI-driven biology: finding scaling laws in biological data, the tradeoffs between scientific intuition and general-purpose architectures, why protein structure prediction is far from solved, and what it would take to build predictive models of living systems. Pushmeet reflects on the lessons behind AlphaFold, the limits of human interpretability, and whether future frontier models could understand other AI systems better than we can. Sal explains why protein language models may already contain scientific knowledge we haven’t unlocked, how biological modeling must move beyond individual proteins, and why achieving Biohub’s mission to cure all disease requires thinking in terms of 10x breakthroughs rather than incremental improvements.
The Bitter Lesson for biology: why scaling compute and data isn’t enough
Why finding the right scaling law matters more than blindly increasing model size
How low-quality metagenomic data can improve protein language models
Why AI researchers optimize for available data instead of the most important scientific problems
Lessons from DeepMind on balancing modeling, data generation, and scientific expertise
Why building a virtual cell requires fundamentally different datasets
AlphaFold’s handcrafted architecture and the role of scientific intuition
Why good data matters more than simply having more data
Inductive biases, scaling laws, and the future of specialized AI architectures
Why we aren’t in a post-Transformer world, but architectures are evolving
Why AlphaFold didn’t actually solve all of protein folding
Protein dynamics, disorder, and the limitations of static structure prediction
How cryo-EM micrographs could unlock richer biological representations
Moving from models of individual proteins to whole biological systems
Feynman’s famous principle and why AI can now create things we don’t understand
The hidden biological knowledge inside protein language models
Why trustworthiness and uncertainty calibration matter more than full interpretability
Whether frontier AI models could interpret other AI systems better than humans
When AI could deliver 10x–100x acceleration in drug discovery
Why curing all disease requires thinking about 10x breakthroughs instead of 10% improvements
LinkedIn: https://www.linkedin.com/in/pushmeet-kohli-4838994/
Biohub: https://biohub.org/team/salvatore-candido/
LinkedIn: https://www.linkedin.com/in/salcandido/
LinkedIn: https://www.linkedin.com/in/brandon--anderson
00:00:00 Introduction: The Bitter Lesson for Biological Data
00:01:00 Finding Scaling Laws and the Right Data for Biology
00:04:54 DeepMind’s Bitter Lesson: Solving Problems vs. Scaling Models
00:06:50 AlphaFold, Data Limitations, and Building the Virtual Cell
00:09:52 Handcrafted Architectures vs. Scaling Compute
00:11:53 Good Data, Inductive Bias, and Model Design
00:13:39 Beyond Transformers: The Future of AI Architectures
00:14:38 Why AlphaFold Hasn’t Solved Protein Folding
00:17:39 Protein Dynamics, Design, and Cryo-EM
00:19:09 From Individual Proteins to Whole Biological Systems
00:20:43 Feynman’s Principle: Creating Without Understanding
00:22:18 The Hidden Knowledge Inside Protein Language Models
00:23:48 AlphaFold, Trustworthiness, and Interpretability
00:25:56 Could AI Understand Other AI Models Better Than Humans?
00:27:43 When Will AI Revolutionize Drug Discovery?
00:29:47 Why Curing All Disease Requires 10x Breakthroughs
Introduction: Is There a Bitter Lesson for Data? Brandon Anderson [00:00:04]: Great to be here. What an exciting morning. So many cool announcements. I think the future of bioscience is being announced right here. This is the modeling session. We’re all modelers, so of course it’s natural for us to talk about data.
One of the things I like to think about when it comes to data is how to scale it properly. This has brought me to the question of the bitter lesson, but recast in the frame of data. The bitter lesson, for those of you who are not AI people, is the statement that methods that scale win eventually. If you can scale enough, it wins. So my question, starting with Sal, is: Is there a bitter lesson for data?
Sal Candido [00:01:00]: For sure. You obviously need the right data in order for it to work. One misconception of scaling laws is that scaling laws are everywhere and they always exist. A lot of the work is actually finding that scaling law. A lot of what we do is trying to figure out: What’s a situation where, if you put more compute into it, if you put more data into it, you get a better result out?
That’s a great situation because, once that happens, you can turn the crank. It becomes an engineering problem, which is something I like. That has to do with architecture, but it also very much has to do with data. If you don’t have data with the right information and statistics to solve the problem you want, you’re not going to get a model that has the capabilities and understanding you want. You can only really pull information from the data you have and use that to generalize beyond it.
Brandon Anderson [00:02:09]: When it comes to data collection, how do you think about which modalities are best? A related question: Do modelers tend to work on problems where the data is available, rather than the problems that best serve their goals or have the greatest impact on translational medicine?
Sal Candido [00:02:32]: For sure. I won’t speak for all modelers, but I’m lazy, so I’m going to work with what’s available. There’s a good side and a bad side to this.
The good side is that, when you’re doing conventional machine learning, you’re often looking for the most pristine, high-quality data examples you can find. But if you’re like me, you’re rooting around in the back room, looking through people’s junk to see what’s there. A concrete example is training a protein language model on metagenomic sequences, which are not the highest-quality data. In fact, much of that data, I can guarantee you, isn’t even a real, whole protein. And yet it makes the performance of the model go up for designing real proteins that work and understanding proteins that we know exist.
That’s the positive side. But it can lead you to a negative place where you say, “Let’s just scale up the data that we can generate easily.” I don’t think that’s necessarily the way to do it. That’s one of the things that’s exciting to me about what we’re talking about here today with the BBI. It’s going out and asking, “What is the data that we need to solve the problem?”
It’s about the right resources, but also the right community. One thing we try to do at Biohub is work in the open, work with the community, and move the whole community forward. That’s critical because, if you just have people building models, we’re going to lean toward the data that exists. If you just have people generating data, they’re going to lean toward the things that can be generated. But if you can work together as a community, every step of the way, in an open fashion, you can figure out what data you actually need. Then you can find that scaling law.
Brandon Anderson [00:04:50]: Pushmeet, what do you think about the bitter lesson for data?
Pushmeet Kohli [00:04:54]: I was at DeepMind when Rich was with us and thinking about this idea of the bitter lesson. What I took from Rich’s original lecture at DeepMind wasn’t about the specific notion of whether data is useful or how we should think about machine learning. My take was that he was talking about something more conceptual.
Sometimes when we’re looking at problems, we think about solutions in a very religious way: “I’m a modeler,” or “I’m a data generation person.” I think that is the bitter lesson. If you approach a problem with that mindset, you might not succeed. The problem comes first, and you should be flexible in your solution space. You should try both things. You should understand the problem you’re trying to solve. If it requires modeling effort, do the modeling effort. If it requires collecting more data, then collect data.
What happened in machine learning at the time was people saying, “We’re machine learning researchers. The dataset is there. Here’s some training data, here’s some test data, and we’ll just optimize the model.” That is broken in the sense that, if your eventual goal is to solve the problem, you have to look at both aspects of what goes into the process.
And what goes into the process is not just data or modeling. It’s also expertise. With AlphaFold, for example, we looked at what was possible with existing datasets because we didn’t have the core expertise, or even the resources, to say, “Let’s augment the PDB by a significant order of magnitude.” The investment that organizations and scientists across the world had put into constructing that data was invaluable. So there, you had to focus on getting the biggest bang for your buck by investing in modeling.
But in other areas, say cell genomics, we took the same approach and asked, “What can you do with cell-by-gene data?” After a lot of work, it was very clear that the data was not there yet to pursue that grand ambition of building the virtual cell. This brings people together to focus on the actual challenges of advancing science rather than religiously following advances in data generation or modeling.
Brandon Anderson [00:08:23]: I really like that answer. What’s the actionable takeaway? Always define the problem first and then figure out which solution space to search over. But more broadly, how should the community think about this as we move toward the next generation of translational medicine?
Pushmeet Kohli [00:08:47]: The advice I give to anyone starting in this area is to think of yourself as a multidisciplinary person. Understand the problem first. Why are you working on it? What are you trying to achieve? Then think about what’s needed, whether that’s modeling, compute scaling, or data generation. Understanding the problem is extremely important, and of course you need to build your expertise.
There are constraints, too. Maybe there’s only a certain amount of data you can generate, or a certain model size you can afford to train. Understand those constraints, try to fail fast, and look at which approaches will be feasible in the long term to get you to the level of impact you’re aiming for.
Brandon Anderson [00:09:52]: This leads right into my next question. When I look at the evolution of modeling, AlphaFold 2 was essentially a work of art, with a lot of carefully handcrafted features. There was very intentional thought put into every part of the solution. Some of Google’s or Alphabet’s work still stays in that space, but the general consensus seems to be moving toward more scalable, general strategies.
Do we still need artisanal, craft solutions for certain problems? Or are resources better spent focusing on scale first? With fixed resources and money, you can invest in compute, talent, or data. How should we think about that trade-off?
Pushmeet Kohli [00:10:48]: Let’s approach it from first principles. The art and craft of constructing a better model wasn’t accidental. We did a lot of experimentation, but there was a vision behind it. Scientific intuition from biophysics and biochemistry told us that amino acid residues are not just doing their own thing. They’re influenced by other residues. So let’s bake that in. If you’ve learned something from the scientific community, use that information. Give the model that unfair advantage.
That makes the model much more data-efficient because it doesn’t have to relearn everything. I also have to mention that curating good data is an art in itself. It’s not as if you can just say, “Put in more data.” If you replicate the same data, you’re not going anywhere. It’s not just about big data; it’s about good data and understanding the coverage of the data necessary to make progress. That’s a much more interesting and challenging problem in itself.
Brandon Anderson [00:12:20]: It looks like you have a thought, Sal. What do you think?
Sal Candido [00:12:24]: I very much agree. It depends on the problem to be solved. If you have a smaller amount of data, having more inductive bias in the model is going to help you. You actually need that to get results at smaller data scales. As you get more and more data, sometimes the model finds things you didn’t necessarily know about, and sometimes that inductive bias, if it wasn’t exactly correct, can hold you back. There’s a tipping point as things get better.
But I also object to your question a little because there’s a lot of craft in the scaling part of things as well. There’s a lot of algorithmic work that goes into taking models, training them on more data, putting more compute into them, and making them bigger. And that isn’t only from an infrastructure perspective or about making the models run inference faster. We’re seeing things go beyond standard transformers to more bespoke architectures. I don’t think we’re in a post-transformer world in any way, shape, or form, but we’re modifying those architectures to make them more fit for purpose and work better, even with internet-scale data.
As more data comes in, the challenge isn’t only curating that data or selecting the next batch of information the models need. It’s also asking, at every step and at every scale, what the right architecture is to get the most out of that information.
Brandon Anderson [00:14:36]: If you think about the state of protein structure prediction right now, the news will say that protein structure prediction has been solved. But if you talk to my friends, they’ll say, “We have so much left to do here.” Function, dynamics, and design are still wide-open problems. It’s been about five years since AlphaFold 2 was announced, and progress has been made.
Pushmeet, do you think there’s another big leap coming? Are there blockers to solving these problems? Do we not have the right data, algorithms, or ideas? Or is it just a matter of time?
Pushmeet Kohli [00:15:28]: Science operates by isolating something and then making progress step by step. When people say the protein-folding problem has been solved, at a conceptual level there have been advances. But think about the narrative of proteins being the building blocks. Proteins aren’t blocks, and they don’t act as blocks. I say proteins are the building blocks all the time, but I don’t actually believe it.
Proteins are extremely complex. They’re disordered. Their shape might change depending on the context. John Jumper and I used to discuss this: What are we trying to solve? We don’t know the actual true ground state that proteins take, or the actual distribution of structures that proteins take. What we were trying to do was replicate a structure that somebody had obtained and deposited in the PDB. That’s what we did. And it just so happens that it’s useful.
But that doesn’t mean we’ve understood all of protein dynamics. At the top level, it’s easier to communicate that we’ve made progress, but the scientists in this crowd know how much remains to be done. There’s a lot to celebrate, but let’s not stop funding protein structure prediction and protein dynamics, because we’re just getting started.
Brandon Anderson [00:17:39]: What’s the biggest blocker? If you could wave a magic wand and say, “We have more of this,” and that would accelerate function, dynamics, or design, what would you bring into existence?
Pushmeet Kohli [00:17:54]: My background is quite eclectic. I started as a security researcher, then went into computer vision, Bayesian theory, discriminative machine learning, deep learning, AI for coding, and finally science. So when you ask me that question, the computer vision researcher in me gets very excited about cryo-EM micrographs.
I thought, “What is this PDB data? I should be working at the source. I should be looking at cryo-EM micrographs. I don’t want those structures. They must be missing out on all the data. I should just operate directly on cryo-EM micrographs.”
Getting models that can scale at that level, with the right amount of data, and extract the dynamics and distributional information captured there would be amazing. I tried it, but it requires more work.
Brandon Anderson [00:18:57]: There’s still work to do, but you believe that’s a route that could give you that information?
Pushmeet Kohli [00:19:00]: Yeah. I think at some point maybe some people better than me will take a stab at it, and we’ll get somewhere.
Brandon Anderson [00:19:07]: What do you think, Sal?
Sal Candido [00:19:09]: It’s interesting because these models are quite useful, but they’re not exactly the problem that most people want to solve. They solve a very specific purpose, and you can also use them to do other things. For example, you can use them to design new proteins, which isn’t necessarily what you would start with.
I think of the models we’re building now as someone who’s trying to understand how a bicycle works, but is modeling a spoke on it. Those models can get better and better over time, but what you really need to do is move from models of spokes to wheels to whole bicycles, because that’s what people want to understand. To continue the analogy, it seems like people want to use a model of the bicycle to design a part for a pickup truck.
As we put these models into the particular biological context in which they’re operating, we’ll be able to learn more about these interactions on a broader scale. That’s where I think things are going. But I agree that we should keep working on folding models, because they’re going to keep getting better.
Brandon Anderson [00:20:43]: With regard to design, there’s a famous Feynman quote: “That which I cannot create, I do not understand.” Now we’re in a world where it’s really easy to create things without understanding them at all. How important is it to have models that help humans understand things, versus magical black boxes that can effectively one-shot a picomolar binder or something like that?
Sal Candido [00:21:18]: We were designing things with magical black boxes long before AI came around. In some sense that’s still useful. But understanding is really important, and it’s one of the big things I think about with AI.
There’s so much for these models to learn. As intelligence gets cheaper and more available, you can deploy it to learn more and more about what’s going on in the world. But how do you pull that knowledge out of the machine so that I can understand it? Maybe that’s just my esoteric curiosity. I think there are so many things to learn.
Brandon Anderson [00:22:05]: A lot of scientists really want to understand things, and the endpoints may not be as important to them. But we’re here to solve translational medicine as a problem, right?
Sal Candido [00:22:18]: I think the more you dig into things, the more you find the right way to keep pushing them forward. One thing that’s really salient to me is that these models have a lot more information in them than we know.
We’ve worked a lot on interpretability for our models, for example, and you find a lot of information there. People know that protein language models learn some notion of structure within their representations, but we find information about functions and motions as well. There’s a lot still to be unlocked, even from the models we have now. That’s important for us to understand as we raise their capabilities.
At the end of the day, you expect a world model to emerge from compressing all this information into a model. How does it do its job? How does it design a protein? It has compressed information from evolution into that model. In addition to being able to produce something useful to us, there’s certainly something to learn just by looking at what’s inside.
Brandon Anderson [00:23:48]: What do you think, Pushmeet? Design versus understanding?
Pushmeet Kohli [00:23:53]: I have a different take in the sense that some level of understanding is necessary. Let me explain what level I mean.
AlphaFold isn’t perfect. AlphaFold 2 had a GDT score of about 90 on that set at the time. But even if it had a GDT score of 95, if its pLDDT score were completely uncalibrated, who would trust it? Imagine that it magically gave good answers but told you it was very confident, and then you worked on it for the next year only to find out it was completely wrong. Calibration of the uncertainty measure was extremely important.
In that sense, we do understand AlphaFold 2, and we made a lot of progress in understanding how it behaves. That’s different from understanding how it worked internally to find the solution. There I agree with Sal that interpretability asks: Why did it work? Why did it give this answer?
At the highest level, AlphaFold 2 was interpretable in terms of its behavior and ability to generalize, and we didn’t discover everything about that before launching. When we launched AlphaFold 2 and made the weights available, people found that it was a great disordered-protein predictor. It could figure out which elements of the protein are disordered. That shows it generalizes.
But interpretability asks another question: Interpretable by whom? If you’re saying interpretable by a human rational system, with the cognitive and computational limitations of the human brain, then no, AlphaFold 2 is not interpretable. But if you’re asking whether AlphaFold 2 is interpretable to a much larger, more sophisticated model in terms of how it works, maybe it is. We just don’t get it.
As users of AlphaFold 2, we do need to understand what it can and cannot do. Understanding its behavioral characteristics, strengths, and limitations is extremely important. We can’t just use these models without that characterization, because otherwise, rather than being helpful, they can harm us.
Brandon Anderson [00:26:53]: So your take is that interpretability, strictly speaking, isn’t necessary, but ensuring that a model is trustworthy so humans can make actionable decisions is what people should focus on.
Pushmeet Kohli [00:27:04]: Exactly. Interpretability is also in the eye of the beholder. Who is interpreting it? If it’s a human scientist trying to interpret how the model makes a prediction, that’s a different question from giving another, much larger LLM access to the activation layers and saying, “Can you predict what AlphaFold will do?” Maybe those frontier models of the future will be able to predict that and come up with a theory of how AlphaFold 2 was interpreting and producing its results.
Brandon Anderson [00:27:43]: We have a two-minute warning, so one last question for both of you. There’s a real chance that AI will make dramatic improvements in human health in the immediate future. I like quantitative predictions. Best guess: How long until we start seeing AI results in the clinic? Pushmeet, do you want to start?
Pushmeet Kohli [00:28:08]: I think “AI results in the clinic” is an ill-posed question. AI is already being used today in every part of the drug discovery process. From that perspective, it’s already there.
But if you’re asking when we’ll see a 10x or 100x acceleration in timelines, then the next question is: What are we accelerating? Is it lead optimization? Target discovery? Preclinical work or toxicology?
Over the next few years, and this is why the effort announced today is extremely important, we need to tackle some of the hard challenges of biology. Only then will we get the true unlocks of acceleration that dramatically transform drug discovery. AI will continue to be used in things that go into the clinic all the time, but larger acceleration will only be unlocked with a better understanding of the biological models this effort is trying to create.
Brandon Anderson [00:29:43]: All right, thanks. Sal, a quick answer, if you can. We’re almost out of time.
Sal Candido [00:29:47]: I’m tempted to literally put on my biohacker hat to answer this question. It’s important to think about what it means to push the field forward. What we really want to see is outcomes being affected. When will a drug be made entirely by AI? I don’t know. That’s hard to predict. But I do think we’re going to see rapid progress very quickly, because all these tools are already being used.
Going back to your point about basic research and basic understanding, one thing I learned a long time ago in my career, back at Google, is that sometimes it’s easier to approach a problem by asking what it would take to make a 10x improvement rather than a 10% improvement. That’s not because the 10x path is necessarily easier. It’s because it allows you to take a broader view and see solutions you haven’t been approaching. You go back to first principles and ask, “How are we going to do this? How are we going to really push this?”
Both approaches, the 10% and the 10x, are valuable, and we should do both. I’m very happy that at Biohub we have a beautiful and lofty mission statement: to cure all disease. If you want to do that, you really need to figure out what the 10x approach is. It’s a great opportunity to be able to go do that.
Brandon Anderson [00:31:46]: Awesome. Thank you both. Thank you for being in the literal hot seat. Very interesting.