In einem Labor der Stanford University beobachteten Forschende, wie sich klare Flecken über eine Petrischale voller Bakterien ausbreiteten – das untrügliche Zeichen dafür, dass etwas, das sie vollständig in einem Computer entwickelt hatten, gerade zum Leben erwacht war. Die Organismen, die diese Bakterien auslöschten, stammten nicht aus der Natur. Es waren von KI entworfene Viren, erzeugt von einem Rechenmodell namens Evo und anschließend chemisch von Grund auf aufgebaut, und die Ergebnisse werfen nun Fragen auf, die weit über ein einziges Kellerlabor in Stanford hinausgehen.
Summary
Wichtigste Erkenntnisse
- Evo, ein von der Stanford University und dem Arc Institute entwickeltes KI-Modell, schlug 700.000 mögliche virale Genome vor, von denen 285 chemisch synthetisiert wurden und 16 Viren hervorbrachten, die sich replizieren und Bakterien abtöten konnten.
- Evo wurde zunächst mit etwa neun Billionen Nukleotiden aus Millionen von Tieren, Pflanzen, Mikroben und Viren trainiert und anschließend auf die 11 Gene des Bakteriophagen Phi X-174 und etwa 15.000 verwandte Genome spezialisiert.
- Die KI-generierten Viren waren ebenso robust wie natürliche und einige replizierten sich schneller als der natürliche Phage Phi X-174 selbst.
- Die aktuellen Biosicherheitsregeln der US National Institutes of Health verbieten Experimente, die Krankheitserreger gefährlicher machen, decken jedoch die rein rechnerische Viruskonstruktion nicht eindeutig ab, sofern sie nicht ein „besorgniserregendes Objekt“ umfasst.
- Fachleute, darunter Moritz Hanke vom Johns Hopkins Center for Health Security, warnen vor einer wachsenden Lücke zwischen dem, was KI inzwischen leisten kann, und den Regeln, die sie regulieren sollen.
KI-Modell Evo entwirft neuartige virale Genome für Bakterien
Evo funktioniert wie eine genetische Version eines großen Sprachmodells und sagt DNA-Sequenzen so voraus, wie ChatGPT das nächste Wort in einem Satz vorhersagt. Anstelle von Sprache lernte es jedoch die Muster, die im genetischen Code des Lebens selbst eingeschrieben sind. Das dahinterstehende Team an Stanford und am Arc Institute wollte herausfinden, ob diese Art der Mustererkennung einen Schritt weiter gehen kann als das Design einzelner Proteine oder Antibiotika – und tatsächlich ein funktionsfähiges Virus hervorbringen kann.
Wie Evo trainiert wurde
Die Ausbildung des Modells erfolgte in zwei Phasen. Das anfängliche Training von Evo stützte sich auf ungefähr neun Billionen Nukleotide, die aus Millionen von Organismen aus den Tier-, Pflanzen-, Mikroben- und Virenreichen stammten, und nahm Muster auf, die sich über den gesamten Stammbaum des Lebens erstrecken. Erst auf dieser breiten Grundlage folgte eine zweite, spezialisierte Trainingsrunde, die sich diesmal eng auf die 11 Gene des Bakteriophagen Phi X-174 und etwa 15.000 seiner nächsten Verwandten konzentrierte. Für Samuel King, Doktorand in Stanford und Mitautor der Forschung, fühlte sich diese gestufte Trainingsweise wie der naheliegende Schritt an. „Es fühlte sich einfach wie der offensichtliche nächste Schritt an“, sagte er.
Von 700.000 Kandidaten zu 16 funktionierenden Viren
Nach dem Training schlug Evo 700.000 mögliche virale Genome vor. Die Forschenden reduzierten diese enorme Auswahl auf die vielversprechendsten Kandidaten und ließen 285 Sequenzen chemisch als DNA synthetisieren, die dann in Bakterien eingebracht wurden, um zu sehen, was passieren würde. Sechzehn dieser Sequenzen erzeugten Viren, die sich replizieren konnten – und, entscheidend, in der Lage waren, die Zielbakterien E. coli dabei abzutöten. King und seine Kolleginnen und Kollegen erkannten Berichten zufolge in den frühen Morgenstunden, dass die Phagen funktionierten, als sie beobachteten, wie sich klare Flecken auf den Petrischalen bildeten. „Wir begannen, diese klaren Flecken zu sehen, und es war einfach extrem aufregend“, sagte King. Als das erweiterte Team die Ergebnisse sah, „brach der Raum spontan in Applaus aus“, so der Assistenzprofessor in Stanford, Brian Hie.
Wie sich KI-entworfene Viren im Labor tatsächlich schlugen
Die 16 Viren, die aus dem Experiment hervorgingen, waren keine zerbrechlichen Laborkuriositäten. Sie erreichten die Leistungsfähigkeit natürlich vorkommender Viren und übertrafen diese in einigen Fällen sogar – ein Ergebnis, das selbst Forschende überraschte, die nicht an der Arbeit beteiligt waren.
Robustheit, Geschwindigkeit und wissenschaftliche Meilensteine
Die entworfenen Viren erwiesen sich als ebenso robust wie natürliche, und einige replizierten sich sogar schneller als Phi X-174 selbst. „Es sind nicht nur kränkliche Versionen von Dingen, die es bereits gibt“, sagte Oliver Crook, Proteinchimist an der University of Oxford, der nicht an der Studie beteiligt war. Patrick Cai, Synthetischer Biologe an der University of Manchester, bezeichnete die Arbeit als einen „wichtigen Meilenstein“ und fügte hinzu, dass „die Bedeutung weit über Phagen hinausgeht – sie legt nahe, dass Genom-Sprachmodelle beginnen, die von der Evolution kodifizierten Designprinzipien zu erlernen und damit die Tür zum KI-gestützten Schreiben von Genomen zu öffnen.“ Marc Güell vom Labor für Synthetische Biologie an der Universität Pompeu Fabra beschrieb sie als einen „sehr bedeutenden Wendepunkt“, weil wir zum ersten Mal „beginnen, Biologie am Computer zu entwerfen“.
Dennoch war Crook darauf bedacht, die Erwartungen zu dämpfen. Die KI erfand nichts grundlegend Neues – die resultierenden Viren ähneln natürlichen Arten sehr stark und beruhen auf derselben zugrunde liegenden Biologie statt auf einem neuartigen Mechanismus. Ob Evo denselben Trick auch bei anderen Virusfamilien vollbringen könnte, bleibt eine offene Frage. Sollte sich der Ansatz verallgemeinern lassen, könnte er laut Crook tatsächlich nützliche Werkzeuge für Medizin und Biotechnologie hervorbringen: „Ein Großteil unserer Wissenschaft beruht auf Viren als Technologie.“ Zum Kontext: Das Phagen-Genom, mit dem das Team arbeitete, umfasst etwa 5.400 Basenpaare, verglichen mit rund 500.000 Basenpaaren in der kleinsten lebenden Zelle und etwa drei Milliarden im menschlichen Genom – eine Lücke, von der Hie sagt, sie mache das Design eines einfachen lebenden Organismus „wahrscheinlich zu einer Menge Arbeit, aber nicht unmöglich“ und zu etwas, woran das Team „definitiv interessiert ist, weiterzuarbeiten“.
Lücken in der Biosicherheit bei der rechnergestützten Viruskonstruktion
Der Durchbruch kommt zu einem Zeitpunkt, an dem die US-Biosicherheitspolitik noch nicht mit dem Schritt gehalten hat, was KI-Modelle inzwischen auf einem Bildschirm erzeugen können. Diese Diskrepanz steht im Zentrum der Debatte um die von künstlicher Intelligenz gesteuerte Virengenomsynthese.
Was die US-Biosicherheitsregeln nicht abdecken
Ende Juli stellten die National Institutes of Health eine Richtlinie zu Hochrisiko-Lebenswissenschaftsforschung vor, die die Schaffung gefährlicherer pathogener Varianten verbietet. Arbeiten, die vollständig mit rechnerischen Methoden durchgeführt werden – also das Design viraler DNA am Computer ohne deren physische Herstellung – sind jedoch laut der Behörde nicht abgedeckt, „sofern sie nicht ein besorgniserregendes Objekt umfasst“. Diese Unterscheidung lässt sich bei etwas wie Pocken, die eindeutig als gefährlich eingestuft sind, leicht anwenden. Weitaus unklarer ist sie, wenn das betreffende Virus aus einem KI-Modell stammt und nicht aus einer bekannten Erregerliste – genau die Art von Unschärfe, die nun Debatten über die Biosicherheitsregulierung von KI prägt, mit denen die Politik kaum Schritt halten kann.
Vorsichtsmaßnahmen und Warnungen von Fachleuten
Das Team der Stanford University und des Arc Institute wartete nicht darauf, dass die Regulierungsbehörden aufholen. Während der gesamten Trainingsphase wurde Evo keinen Informationen über Menschen infizierende Viren oder deren zugehörige pathogene Organismen, die Tiere, Pflanzen oder Pilze betreffen, ausgesetzt – was bedeutet, dass das Modell diese genetischen Sequenzen von vornherein nicht erzeugen kann. „Unsere Absicht war es einfach, äußerste Vorsicht walten zu lassen“, sagte Brian Hie. Moritz Hanke vom Johns Hopkins Center for Health Security bezeichnete diese Entscheidung als „sehr lobenswert“, zumal keine offiziellen Regeln sie verlangten: „Weil sie nirgendwoher eine Anleitung bekommen, was sie tun sollten.“
Hanke und Thomas Inglesby, ebenfalls von Johns Hopkins, gingen in einem Kommentar, der zusammen mit der Forschung in der Fachzeitschrift Science veröffentlicht wurde, noch weiter und warnten, die Ergebnisse aufzuwerfenden „dringenden Fragen der Biosicherheit und Biosecurity“. Das eigentliche Problem sei, argumentierten sie, nicht, ob das generative Design viraler Genome künftig existieren werde – das tue es offensichtlich bereits –, sondern ob es genutzt werden könne, ohne „ernsthaften Schaden zu ermöglichen“. Hanke formulierte die Sorge unverblümt: „Was ist das Risiko von etwas, das ich noch nie zuvor gesehen habe?“, fragte er und beschrieb „eine riesige Diskrepanz“ zwischen der Geschwindigkeit, mit der sich die Wissenschaft bewegt, und der Langsamkeit, mit der die Leitplanken folgen. Sein Worst-Case-Szenario ist leicht vorstellbar: „Man könnte sagen: ‚Hey, Genom-Sprachmodell, erstelle mir ein Influenzagenom, das so verändert ist, dass es leichter übertragbar oder tödlicher ist.‘“
Warum das wichtig ist: Derselbe rechnerische Abkürzungsweg, der es Evo ermöglichte, innerhalb weniger Monate 16 funktionierende Bakteriophagen zu entwerfen – mithilfe von neun Billionen Nukleotiden an Trainingsdaten und einer gezielten Nachrunde zu Phi X-174 –, ist eine universell einsetzbare Methode. Nichts an der zugrunde liegenden Technik beschränkt sie auf harmlose Bakterienkiller. Genau auf diese Lücke weisen Hanke und Inglesby hin: eine Forschungsmethode, die sich schneller entwickelt als die Politik, die sie eindämmen soll, in einem Feld, in dem die Forschung in der Synthetischen Biologie die Grenze zwischen dem Entwurf neuer Medikamente und dem Entwurf neuer Risiken zunehmend verwischt.
Vorerst sagen die Forschenden, dass die von ihnen angewandten Schutzmaßnahmen – der Ausschluss von Daten zu Menschen infizierenden Viren, die Arbeit ausschließlich an Bakteriophagen und die Durchführung aller Experimente in einem sicheren Labor – einen großen Beitrag dazu leisten, die Technologie auf Nutzen statt Schaden auszurichten. Hie argumentiert, der Ansatz habe das Potenzial, die „menschliche Gesundheit massiv zu verbessern“ – durch neue Medikamente und Therapien, einschließlich phagenbasierter Behandlungen für antibiotikaresistente Infektionen. Ob dieses Versprechen außerhalb von Phi X-174 Bestand hat und ob die Regulierungsbehörden handeln, bevor die nächste Version dieses Experiments ein weniger begrenztes Ziel ins Visier nimmt, sind die beiden Fragen, die wahrscheinlich bestimmen werden, was als Nächstes für KI-entworfene Viren kommt.
FAQ
Wie wirksam waren die KI-entworfenen Viren in Labortests?
Von 285 synthetisierten viralen Genomsequenzen erzeugten 16 Viren, die sich im Labor replizieren und Bakterien abtöten konnten.
Welche Daten wurden zum Training des KI-Modells Evo verwendet?
Evo wurde zunächst mit etwa neun Billionen Nukleotiden aus Millionen von Tieren, Pflanzen, Mikroben und Viren trainiert und anschließend speziell auf die 11 Gene des Phagen Phi X-174 und etwa 15.000 verwandte Genome.
Warum regulieren die aktuellen US-Biosicherheitspolitiken KI-entworfene Viren nicht?
Weil das rein rechnerische Design viraler DNA nach den aktuellen Richtlinien der US-NIH nicht abgedeckt ist, sofern es nicht ein besorgniserregendes Objekt umfasst, wodurch eine Regulierungslücke für KI-entworfene Viren entsteht.
Welche Vorsichtsmaßnahmen trafen die Wissenschaftler während des Trainings von Evo?
Sie schlossen Daten über Viren, die Menschen infizieren, und verwandte Krankheitserreger aus, um zu verhindern, dass die KI potenziell schädliche, Menschen infizierende virale Genome erzeugt.
{„@context“:“https://schema.org“,“@type“:“FAQPage“,“mainEntity“:[{„@type“:“Question“,“name“:“Wie wirksam waren die KI-entworfenen Viren in Labortests?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Von 285 synthetisierten viralen Genomsequenzen erzeugten 16 Viren, die sich im Labor replizieren und Bakterien abtöten konnten.“}},{„@type“:“Question“,“name“:“Welche Daten wurden zum Training des KI-Modells Evo verwendet?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Evo wurde zunächst mit etwa neun Billionen Nukleotiden aus Millionen von Tieren, Pflanzen, Mikroben und Viren trainiert und anschließend speziell auf die 11 Gene des Phagen Phi X-174 und etwa 15.000 verwandte Genome.“}},{„@type“:“Question“,“name“:“Warum regulieren die aktuellen US-Biosicherheitspolitiken KI-entworfene Viren nicht?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Weil das rein rechnerische Design viraler DNA nach den aktuellen Richtlinien der US-NIH nicht abgedeckt ist, sofern es nicht ein besorgniserregendes Objekt umfasst, wodurch eine Regulierungslücke für KI-entworfene Viren entsteht.“}},{„@type“:“Question“,“name“:“Welche Vorsichtsmaßnahmen trafen die Wissenschaftler während des Trainings von Evo?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Sie schlossen Daten über Viren, die Menschen infizieren, und verwandte Krankheitserreger aus, um zu verhindern, dass die KI potenziell schädliche, Menschen infizierende virale Genome erzeugt.“}}]}
Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion überprüft.
