Der Plan einer italienischen KI, die 100-Millionen-Dollar-Wissenschaftler des Silicon Valley zu übertrumpfen

In Rom graben wir uns erneut in die Tiefen neuronaler Netzwerke. Translated , ein italienisches Unternehmen, das zu den weltweit führenden Anbietern von KI-gestützter maschineller Übersetzung zählt, leitet ein ehrgeiziges europäisches Projekt zur Überwindung der Grenzen aktueller groß angelegter linguistischer Modelle (LLM), die die Grundlage von Tools wie ChatGpt , Gemini und Claude bilden.

Der Informatiker Marco Trombetti , der Translated 1999 zusammen mit der Linguistin Isabelle Andrieu gründete, empfing in der Zentrale seines Unternehmens 70 europäische Forscher, die an DVPS arbeiten werden, einer neuen Initiative des Programms Horizon Europe , das jährlich rund 1 Milliarde Euro für KI bereitstellt und sich dabei auf Grundlagenforschung, industrielle Innovation und praktische Anwendungen konzentriert.

Das europäische Herzstück des DVPS-Projektes

Translated koordiniert das mit 29 Millionen Euro geförderte Projekt. Zwanzig führende Organisationen – Unternehmen, aber auch Universitäten – aus neun europäischen Ländern sind beteiligt. Der Name DVPS – ein lateinisches Akronym für Diversibus Vilis Plurima Solvo , was so viel wie „Auf verschiedenen Wegen löse ich mehrere Probleme“ bedeutet – erinnert an die Leidenschaft des Silicon Valley für die römische Welt, doch die Seele dieser Forschungsarbeit ist durch und durch europäisch.

Das Projekt begann in Rom, auf dem südlich der Hauptstadt gelegenen Pi-Campus , einem kleinen Ökosystem aus Villen, in dem sich Startups und Risikokapitalgeber regelmäßig treffen.

Das DVPS-Team beabsichtigt, ein neues KI-Modell zu entwickeln, das „durch die Kombination sprachlicher, visueller und sensorischer Daten aus Interaktionen in der realen Welt lernen kann“.

Über LLMs hinaus: Ein neues Paradigma

„Große Sprachmodelle haben die Spielregeln verändert, aber wir stoßen zunehmend an ihre Grenzen – sowohl hinsichtlich ihrer Architektur als auch hinsichtlich ihres Lernens aus statischen Inhalten, die von Menschen erstellt werden und nur in der digitalen Welt verfügbar sind. Um sich weiterzuentwickeln, muss KI in Echtzeit mit der realen Welt interagieren. Mit DVPS ermöglichen wir Maschinen, zu wachsen, indem sie mit der Realität interagieren und sofort Wissen miteinander austauschen“, sagte Trombetti, einer der italienischen Unternehmer, die – in Geist, Einstellung und persönlichen Beziehungen – dem Silicon Valley am nächsten stehen.

In den letzten Jahren haben einige der symbolträchtigsten Namen der globalen KI den Pi Campus durchlaufen: von Lukasz Kaiser , einem der Autoren des Artikels Attention Is All You Need , der zur Entstehung von ChatGpt beitrug, bis hin zu – erst vor wenigen Tagen – Jonathan Cohen , Leiter der KI-Software bei Nvidia , dem Unternehmen, das mit seinen Grafikkarten die Revolution der generativen künstlichen Intelligenz ermöglichte.

Die Grundlagen von DVPS

Translated erzielte 2024 einen Umsatz von 69,2 Millionen Euro. 2021 schloss das Unternehmen eine Finanzierungsrunde über 30 Millionen Euro ab, die von der Investmentfirma Ardian angeführt wurde. Das Unternehmen mit Sitz in Rom beschäftigt 250 Mitarbeiter. Trombetti ist CEO.

Mit den Gewinnen des Unternehmens gründeten die Gründer von Translated Pi Campus, das sie als „eine Risikokapitalgesellschaft, die in angewandte KI investiert“ bezeichnen.

Der römische Campus ist ein Ort der Talentförderung : Dort wurde eine Schule für künstliche Intelligenz, die Pi School, eingerichtet, die jedes Jahr die besten Profile auswählt und sie einlädt, echte Probleme zu lösen, „die von führenden Unternehmen oder wachsenden Startups vorgeschlagen werden“.

Das DVPS-Projekt, das als „eine der wichtigsten europäischen Investitionen in die KI-Forschung“ gilt, baut daher auf einem soliden Fundament auf. Der Traum ist die Entwicklung fortschrittlicher KI-Systeme, die Kontexte besser verstehen als LLMs.

Die Idee besteht darin, ein allgemeines Modell zu entwickeln, das dann in mindestens drei Sektoren „vertikalisiert“ werden kann: Medizin, Umwelt und sprachliche Übersetzungen .

Im Sprachbereich, in dem Translated eine starke Position hat, wird DVPS visuelle Eingaben, räumliches Audio und Kontextinformationen integrieren, um den Sprecher richtig zu identifizieren und genauere Übersetzungen bereitzustellen.

So gewinnen Sie in der KI-Meisterschaft

Das Projekt beginnt mit einer ersten experimentellen Phase und wird durch europäische Fördermittel in Höhe von 29 Millionen Euro unterstützt, von denen 4 Millionen für die Rechenkapazität vorgesehen sind .

Wenn das in dieser Phase entwickelte Modell vielversprechende Ergebnisse liefert, besteht das Ziel darin, im darauffolgenden Jahr 100 Millionen Euro für den Bau mittelgroßer Modelle zu beschaffen. Bestätigt sich das Projekt dann als eines der besten in dieser neuen Kategorie, kann eine Investition von einer Milliarde Euro angestrebt und der Einstieg in den globalen Wettbewerb der künstlichen Intelligenz ermöglicht werden.

Aber wie gewinnt man KI-Meisterschaften?

„Man beginnt mit der Forschung und baut dann ein kleines Modell mit fünf bis sieben Milliarden Parametern“, erklärt Trombetti. „Diese Modelle kosten etwa eine Million. Diejenigen, die sich in dieser Kategorie durchsetzen, tun dies mit geringem Zeit- und Ressourcenaufwand. Welches der kleinen Modelle ist das beste? Selbst wenn es einem 100-Milliarden-Modell unterlegen ist, gewinnt es in seiner Klasse. Es ist wie der Gewinn der Provinzmeisterschaften: Anschließend geht man zu den Regionalmeisterschaften über, kassiert 100 Millionen und entwickelt ein viel größeres Modell. Wenn man auch in dieser Kategorie gewinnt, kann man Milliarden investieren und die Olympischen Spiele anstreben. Wir sind motiviert, dorthin zu gelangen, aber wir wissen, dass wir alle Schritte durchlaufen müssen. Und wir sind sicherlich nicht diejenigen, die eine Milliarde verlangen, ohne vorher die kleineren Meisterschaften gewonnen zu haben.“

Die Stärke Europas? Die Probleme erkennen

Wie hoch sind die Erfolgschancen für DVPS? „20 %“, antwortet Trombetti. Warum so gering? „Wir werden die aktuelle LLM-Architektur nicht verwenden“, erklärt der Translated-CEO. „Wir werden nicht dem DeepSeek- Ansatz folgen, der lediglich eine Verbesserung eines bestehenden Systems darstellt. Unser Ansatz ist anders: Wir konzentrieren uns auf Grundlagenforschung, wollen neue Wege finden, um diese Probleme anzugehen und ein Modell mit einer völlig neuen Architektur zu entwickeln. Die Erfolgswahrscheinlichkeit ist geringer, aber wenn wir Erfolg haben, machen wir keinen 101-prozentigen, sondern einen 200-prozentigen Sprung nach vorne.“

Die Mission von DVPS ist komplex, wenn man bedenkt, dass selbst auf der anderen Seite des Ozeans, im Silicon Valley, die besten Köpfe der Welt daran arbeiten, die aktuellen Grenzen von LLMs zu überwinden, insbesondere den Mangel an Daten für die Modellentwicklung. Doch die großen Technologieunternehmen verfügen über Milliardeninvestitionen und immense Rechenleistung. Ihre Erfolgsquoten sind im Gegensatz zu Translated und seinen europäischen Mitstreitern deutlich höher. Wie also kann man mit so vielen Giganten konkurrieren, die alle dasselbe Ziel verfolgen?

„Wir kennen diese Leute, wir sprechen mit ihnen“, sagt Trombetti. „Ich habe mit Cohen, Lukasz und Ilya Sutskever, dem Mitbegründer von OpenAI , gesprochen. Sie verfügen über ein unglaubliches technisches und theoretisches Verständnis. Aber eines fehlt ihnen: Sie können echte Probleme nicht verstehen. Wir arbeiten seit Jahren mit Übersetzern und Linguisten zusammen, Menschen, die täglich mit Sprachproblemen konfrontiert sind. Und Sprache ist wahrscheinlich das Komplexeste und Menschlichste, was eine Maschine zu verstehen versuchen kann. Wenn ein Übersetzer mit einem KI-System arbeitet, akzeptiert es keine Näherungen. Wenn die Maschine „halluziniert“ oder einen Fehler macht, bemerkt sie das sofort. Und sie zwingt uns zu verstehen, warum sie einen Fehler gemacht hat. Das eröffnet uns ein Maß an Präzision und Wahrheit über das Problem, das vielen Forschern verborgen bleibt. Lucasz ist jedes Mal überrascht, wenn ich mit ihm spreche. Denn wir sehen Probleme, die sie nicht sehen. Und das verschafft uns einen Vorteil: Sie haben bisher mit roher Gewalt gewonnen, aber wir verstehen, wo die Maschine wirklich versagt.“

Doch laut Trombetti gibt es noch einen weiteren Grund, warum es einen Versuch wert ist .

„Die Kluft zwischen Open-Source- und geschlossenen Modellen [wie ChatGpt und Gemini, Anm. d. Red.] wird kleiner“, sagt er. „Und während die Finanzierung langsam knapp wird, wird Einfallsreichtum wieder zu einem entscheidenden Wettbewerbsvorteil. Drei Jahre lang gewann derjenige mit der größten Rechenleistung. Dann kam DeepSeek: Mit zehnmal weniger Ressourcen und etwas Einfallsreichtum machte es einen Schritt nach vorne. Und das öffnet uns eine Tür. Wenn ein Wissenschaftler hundert Millionen wert ist, aber das Problem nicht verstanden hat, steckt man in Schwierigkeiten. Wenn ein Wissenschaftler eine Million wert ist, aber das Problem wirklich kennt, kann er gewinnen. Das ist unser wahrer Vorteil. Und dann ist da noch etwas: Wir können uns eine Erfolgsquote von 20 % leisten. Sie können das nicht. Sie müssen jedes Mal gewinnen. Wir hingegen können das Risiko eingehen. Und so kann etwas Neues entstehen.“

Holen Sie die Maschine aus dem Computer

Das Ziel von Translated und allen am DVPS beteiligten Unternehmen besteht darin, „die Maschine aus dem Computer herauszuholen und sie mit der physischen Welt interagieren zu lassen“.

„Dazu“, so Trombetti, „muss sie alle Sensoren verarbeiten können. Denken wir an ein autonomes Auto: Es verfügt über Kameras, Radar, Lidar und Entfernungsmesser. Heute müssen all diese Daten manuell vorverarbeitet werden. Wir müssen der Maschine erklären, was jede Eingabe bedeutet, und das vereinfacht die Arbeit erheblich. Wenn wir sie aber mit tausend Sensoren ausstatten und sie komplexe Informationen verarbeiten lassen wollen – wie in der Medizin, wo die Daten heterogen sind –, können wir nicht mehr alles manuell programmieren. Die Maschine muss die Informationen direkt, Byte für Byte, lesen und ihnen selbstständig eine Bedeutung zuordnen können. Dies erfordert Parallelität, Lernen auf Byte-Ebene, aber vor allem einen Paradigmenwechsel: Bisher haben wir Maschinen nur mit historischen Daten trainiert. Menschen lernen aber vor allem durch die Interaktion mit der Welt, durch Erfahrungen: Learning by Doing. Deshalb müssen wir die Tür öffnen: die Maschine herauslassen, sie Erfahrungen sammeln lassen und eine Architektur entwickeln, die es ihr ermöglicht, sich selbst zu trainieren, während sie agiert. Das ist der nächste Schritt.“

AGI braucht eine Veränderung

Ein grundlegender Schritt, unter anderem um zu einer überlegenen künstlichen Intelligenz zu gelangen, die viele als „allgemein“ (AGI) bezeichnen und die eines Tages die menschlichen kognitiven Fähigkeiten in vielen Bereichen übertreffen könnte.

Ich bin mir sicher, dass wir mit der aktuellen Architektur keine AGI erreichen können. Es gibt in der physischen Welt und in der Zukunft zu viel zu lernen, um wirklich verallgemeinern zu können. Der aktuelle Ansatz reicht nicht aus.

Das neue Modell wird „offen“ sein, aber nicht zu sehr

Die Bemühungen von DVPS, so Trombetti, werden hinsichtlich der Forschungsarbeiten völlig offen sein. Das erste erstellte Modell wird „ offenes Gewicht “ haben: Das bedeutet, dass seine Gewichte (d. h. die im Training erlernten Parameter) öffentlich zugänglich sind.

Und warum wird es keine Open-Source-KI sein?

„Wir müssen vorsichtig sein, wie viel wir teilen: Das haben wir noch nicht entschieden“, sagt Trombetti. „Das größte Risiko besteht darin, dass in Europa erneut viel geforscht und Geld investiert wird, während dann die amerikanischen Forscher die Ergebnisse nutzen, als erste veröffentlichen, alternative Projekte vorschlagen und die Früchte ihrer Arbeit ernten. Deshalb müssen wir sorgfältig abwägen, wo wir die Grenzen ziehen. Es ist eine strategische Entscheidung: Wenn das Projekt sehr gut läuft, können wir es uns leisten, uns etwas stärker abzuschotten; wenn die Fortschritte hingegen langsamer sind, ist es besser, offener und kooperativer zu sein und nach neuen Möglichkeiten zu suchen.“