WIRED-Zusammenfassung: ChatGPT geht in den vollständigen Dämonenmodus

In der heutigen Folge geht unsere Moderatorin Zoë Schiffer gemeinsam mit Louise Matsakis, der leitenden Wirtschaftsredakteurin von WIRED, fünf der wichtigsten Geschichten durch, die wir diese Woche veröffentlicht haben – von Metas fortgesetzter Abwerbungswelle für KI- Talente bis hin zur Frage, wie viel schneller unser Gehirn seit der Pandemie altert. Anschließend tauchen sie in den überraschenden Grund ein, warum ChatGPT letzte Woche angeblich völlig ausrastete.

Sie können Zoë Schiffer auf Bluesky unter @zoeschiffer und Louise Matsakis auf Bluesky unter @lmatsakis folgen. Schreiben Sie uns an [email protected] .

In dieser Folge erwähnt: Der wahre Dämon in ChatGPT von Louise Matsakis Metas KI-Rekrutierungskampagne findet ein neues Ziel von Kylie Robison Die Pandemie scheint die Gehirnalterung beschleunigt zu haben, sogar bei Menschen, die nie an Covid erkrankt waren von Javier Carbajal Gesetze zur Altersüberprüfung lassen die VPN-Nutzung in die Höhe schnellen – und bedrohen das offene Internet von Lily Hay Newman und Matt Burgess Dieser intelligente Basketball zeichnet Daten zu jedem Wurf auf. Er könnte in die NBA kommen von Ben Dowsett Die erste geplante Migration eines ganzen Landes ist im Gange von Fernanda González

Sie können den Podcast dieser Woche jederzeit über den Audioplayer auf dieser Seite anhören. Wenn Sie ihn jedoch kostenlos abonnieren möchten, um alle Folgen zu erhalten, gehen Sie wie folgt vor:

Wenn Sie ein iPhone oder iPad verwenden, öffnen Sie die Podcast-App oder tippen Sie einfach auf diesen Link . Sie können auch Apps wie Overcast oder Pocket Casts herunterladen und nach „Uncanny Valley“ suchen. Wir sind auch auf Spotify .

Hinweis: Dies ist eine automatisierte Abschrift, die Fehler enthalten kann.

Zoë Schiffer: Hallo, hier ist Zoë. Bevor wir beginnen, möchte ich Ihnen etwas über das neue WIRED-Abonnementprogramm erzählen. Wenn Sie bereits Abonnent sind, vielen Dank für Ihre Unterstützung. Falls Sie sich noch nicht angemeldet haben, ist jetzt ein guter Zeitpunkt dafür. Sie erhalten Zugriff auf Newsletter mit exklusiven Analysen von WIRED-Reportern und Live-Streams von AMAs, bei denen Sie Ihre dringendsten Fragen stellen können. Besuchen Sie WIRED.com, um mehr zu erfahren.

Willkommen bei WIREDs „ Uncanny Valley“ . Ich bin Zoë Schiffer, WIREDs Direktorin für Wirtschaft und Industrie. Heute in der Sendung präsentieren wir Ihnen fünf Geschichten, die Sie diese Woche kennen sollten. Später tauchen wir in unseren Hauptteil ein, in dem wir uns damit befassen, wie KI-Chatbots wie ChatGPT dazu neigen, den Kontext der Informationen, die sie aufnehmen, zu ignorieren. Dies hat dazu geführt, dass einige Chatbots in sehr, sehr seltsame Situationen geraten, beispielsweise indem sie ihren Nutzern dämonische Rituale vorschlagen. Heute ist Louise Matsakis, WIREDs leitende Wirtschaftsredakteurin, bei mir zu Gast. Louise, willkommen bei „Uncanny Valley“ .

Louise Matsakis: Hallo Zoë.

Zoë Schiffer: Unsere erste Geschichte beschäftigt uns schon lange. Es geht um den Kampf um KI-Talente. Mark Zuckerberg und Meta hinken im KI-Rennen den meisten ihrer kleineren und gleich großen Konkurrenten hinterher. In letzter Zeit hat Mark Zuckerberg alles daran gesetzt, Spitzenforscher aus konkurrierenden Laboren abzuwerben und sie mit extrem hohen Gehältern zu Meta zu holen. Berichten zufolge geht es um über 300 Millionen Dollar über vier Jahre, obwohl Meta diese Zahlen bestreitet. Diese Woche haben wir jedoch erfahren, dass er ein kleineres Labor ins Visier genommen hat: Thinking Machines.

Louise Matsakis: Ja, Thinking Machines ist das Startup, das von Mira Murati gegründet wurde, der ehemaligen Chief Technology Officer von OpenAI. Und ich finde es bemerkenswert, dass dieses Startup noch kein Produkt hat. Das Startup hat bisher nichts erreicht, und den Leuten, die dort arbeiten, werden bereits Hunderte Millionen Dollar angeboten.

Zoë Schiffer: Louise, das ist in der KI kein Thema. Ich denke, in diesem Bereich kommt es sehr auf die Geschichte an, aber diese Forscher sind offensichtlich extrem wertvoll. Als wir darüber berichteten, erfuhr ich aus Quellen, dass sie den Prozess mit Meta durchlaufen haben, um ihren Marktwert zu testen. Selbst wenn sie es nicht ernst meinen, bei Meta einzusteigen, fragen sie sich: „Wie viel bin ich wert?“ Und die Antwort lautet in manchen Fällen Hunderte Millionen Dollar.

Louise Matsakis: Ich verstehe ehrlich gesagt nicht, wie diese Berechnungen zustande kommen, und ich verstehe nicht, warum ein Forscher 300 Millionen oder 500 Millionen wert ist. Wie viel davon ist Verhandlungssache? Und ich denke, das widerspricht vielen Dingen, die ich über KI-Innovationen zu wissen glaubte. Es handelt sich oft um eine Gruppe wirklich leidenschaftlicher Menschen, die oft noch recht jung sind. Viele der berühmtesten Arbeiten wurden von Leuten geschrieben, die unter 25 oder zumindest unter 30 Jahre alt waren. Und jetzt denke ich mir: Ich weiß nicht, du hast eine tolle Arbeit veröffentlicht und bist jetzt 500 Millionen wert.

Zoë Schiffer: Ja, ich habe mit jemandem gesprochen, der sehr eng involviert war, und der meinte: „Auf dem Papier dürfen wir so viel bieten. Aber die Realität ist, dass wir einem KI-Forscher derzeit keine Grenzen setzen können. Es gibt buchstäblich nichts, was wir ihm nicht bieten können.“ Ich meine, das ist so interessant. Ich finde, was Sie sagen, ergibt auf individueller Ebene Sinn. Es ist einfach völlig verblüffend. Man fragt sich: Wie kann dieser 23-, 24-Jährige nur so viel wert sein? Aber ich denke, wenn ich mich in Mark Zuckerbergs Lage versetzen müsste, wäre das eine existenzielle Krise für das Unternehmen. Er hat vielleicht das Gefühl, dass Meta völlig abgehängt wird und dass der Umsatz des Unternehmens, obwohl es so viel Geld verdient und seine anderen Produkte in einigen Bereichen äußerst erfolgreich sind, rückläufig ist. Mit mehr Werbung in der bestehenden Produktpipeline kann man nur bis zu einem gewissen Punkt kommen. Was würden Sie also nicht tun, um sicherzustellen, dass Ihr Unternehmen am Puls der Zeit bleibt?

Louise Matsakis: Absolut. Ich halte die Strategie für etwas rückständig. Ich würde lieber auf Nummer sicher gehen und 600 neue Doktoranden für eine Million Dollar oder 500.000 Dollar pro Jahr einstellen. Vielleicht reicht das heutzutage nicht mehr. Vielleicht ist es auch nicht möglich, aber gib ihnen 10 Millionen Dollar pro Jahr und schau, was sie damit machen, anstatt diese großen Stars zu engagieren. Ich finde, das wirkt einfach sehr verzweifelt und wirkt wie ein Versuch, etwas zurückzuentwickeln, von dem ich nicht sicher bin, ob man es rückwärts entwickeln kann.

Zoë Schiffer: Nein, ganz sicher nicht. Das ist genau die Strategie. Unsere letzten Berichte haben gezeigt, dass in einigen Fällen Spitzenforscher – und das ist bei weitem nicht die Zahl, die allen in den Mund gelegt wird – mehr als eine Milliarde Dollar flossen. Und das über einen Zeitraum von mehreren Jahren. Das heißt also nicht, dass man das im Voraus bekommt, aber trotzdem, ich meine, es ist einfach Generationenreichtum, der da versprochen wird. Und einige der anderen Angebote lagen zwischen 200 und 500 Millionen, aber bisher scheint zumindest bei Thinking Machines niemand eines dieser Angebote angenommen zu haben, was schon faszinierend ist.

Louise Matsakis: Ja, ich denke, das zeigt, dass diese Zahlen ab einem bestimmten Niveau bedeutungslos werden. Wenn man 100 Millionen Dollar statt 200 Millionen Dollar verdient, möchte ich lieber glücklich sein und wahrscheinlich etwas tun, was ich tun möchte, denn mehr kann man mit Geld nicht wirklich kaufen, es sei denn, man steht total auf Superyachten, schätze ich.

Zoë Schiffer: Flugzeuge.

Louise Matsakis: Ja, ich denke, das sagt vielleicht etwas über die Kultur bei Meta aus. Glauben Sie, dass es bestimmte Dinge gibt, die den Leuten Angst machen, oder liegt es einfach daran, dass die Leute Mira und diesen anderen Startup-Gründern treu sind?

Zoë Schiffer: Ich denke, Loyalität ist ein großes Thema. Leute, die an Mira glauben, scheinen wirklich an sie zu glauben, und das trifft offensichtlich sowohl auf Investoren als auch auf Mitarbeiter zu. Aber ich habe zwei Dinge über Meta gehört, die mir besonders aufgefallen sind. Erstens: Mark Zuckerberg hat Alexandr Wang, den Mitbegründer von Scale AI, einem Startup für Datenlabeling, angeworben, um die neuen Meta Superintelligence Labs zu leiten oder mitzuleiten. Und die Meinungen über Alexandr gehen sehr auseinander. Manche wollen offensichtlich für ihn arbeiten und sind zu Meta gewechselt. Viele haben mir aus verschiedenen Gründen gesagt, dass sie nicht interessiert sind. Das ist also eine Sache, die ich einfach mal ansprechen möchte. Zweitens – und ich habe das noch nicht vollständig berichtet, aber ich habe es so oft gehört, dass es erwähnenswert erscheint – haben manche Leute das Gefühl, Mark Zuckerbergs Rechtsruck und seine scheinbar hypermaskuline Tendenz hätten eher die eher akademischen, ruhigen Forschertypen abgeschreckt.

Louise Matsakis: Ich denke, das ergibt durchaus Sinn. Er hat auch keinen akademischen oder wissenschaftlichen Hintergrund. Ich glaube nicht, dass er die Anreize einer solchen Branche versteht. Und man sollte auch erwähnen, dass Alexandr, ich glaube, 27 Jahre alt ist und die KI-Datenbeschriftungsbranche als deren Schattenseite gilt. Ich denke, das ist vielleicht auch ein Teil der Frage: Wollen wir wirklich für den Mann arbeiten, der dafür bekannt ist, eine Armee unterbezahlter Leute auf der ganzen Welt zu haben, die Bilder für selbstfahrende Autos beschriften?

Zoë Schiffer: Absolut. Okay. Kommen wir nun zu einer Geschichte, die viele von uns, glaube ich, nachvollziehen können. Eine neue wissenschaftliche Studie, die diesen Monat im Nature Communications Journal veröffentlicht wurde, zeigt, dass die Pandemie die Gehirnalterung sogar bei Menschen beschleunigt haben könnte, die nie an COVID erkrankt waren – das ist echt krass. WIRED-Autor Javier Carbajal berichtete, dass die britischen Forscher der Studie unzählige MRT-Gehirnscans von vor und nach der Pandemie verglichen und festgestellt haben, dass der Unterschied zwischen unserem chronologischen und unserem tatsächlichen Gehirnalter nach der Pandemie etwa fünfeinhalb Monate höher ist.

Louise Matsakis: Oh mein Gott, ein halbes Jahr. Das ist ein Deal, Baby. Das klingt großartig.

Zoë Schiffer: Sie glauben auch, dass Stress und Isolation dazu beigetragen haben, was meiner Meinung nach stimmt. Ich denke, die Auswirkungen waren für Menschen mit niedrigerem sozioökonomischen Status und insbesondere für ältere Männer schlimmer. Das deckt sich mit anderen Dingen, die wir wissen. Bleiben wir noch kurz in Großbritannien: Unser nächster Artikel handelt von den Gesetzen zur Altersverifizierung, die letzten Freitag in Großbritannien in Kraft getreten sind. Unsere Kollegen Lily Hay Newman und Matt Burgess berichteten, dass letzte Woche der britische Online Safety Act in Kraft getreten ist, der Pornoseiten und andere Websites mit Inhalten für Erwachsene dazu verpflichtet, eine Altersverifizierung zu implementieren. Ich bin sehr gespannt auf Ihre Meinung dazu, denn ich habe das Gefühl, dass Altersverifizierung eines dieser Dinge ist, bei denen sich das, was man zunächst zu glauben glaubt, bei näherer Betrachtung genau umkehrt.

Louise Matsakis: Oh, absolut. Ich meine, vor ein paar Jahren, als viele US-Politiker darüber sprachen, bezogen sie sich ausdrücklich auf China und meinten: „Oh, China hat eine Altersverifizierung, und gleichzeitig lassen wir in den USA zu, dass dieses chinesische Unternehmen TikTok unsere Jugend vergiftet oder so.“ Also habe ich mir angesehen, wie China die Altersverifizierung umsetzt, und es ist genau das, was Sie gesagt haben. Es ist eine Überwachungsarchitektur von Grund auf. Sie mussten ihr Internet buchstäblich Stein für Stein aufbauen, um diese Überwachung auf jeder Ebene zu haben, und dann funktioniert es auch noch nicht. Egal wo in China, überall sieht man Kleinkinder, die TikTok nutzen, weil sie mit dem Konto ihrer Eltern eingeloggt sind. Ich finde, das ist ein elterliches Recht und sollte etwas Persönliches sein, das man zu Hause selbst entscheiden sollte. Ich finde einfach nicht, dass die Regierung diejenige sein sollte, die das überwacht.

Zoë Schiffer: Ja, ich meine, das ist genau das, was wir in Großbritannien gesehen haben. Die Nutzung von VPNs, die Ihnen den Zugriff auf Websites ermöglichen, ohne dass einige Ihrer Informationen verfolgt werden, ist seit der Einführung dieses Programms stark angestiegen, und das erst seit ein paar Tagen.

Louise Matsakis: Ich kann nur sagen: Schauen Sie sich das ländliche China an, wo es eine Epidemie von scheinbaren Großmüttern gibt, die die ganze Zeit auf TikTok verbringen, obwohl in Wirklichkeit nur ihre Enkel in ihre Konten eingeloggt sind.

Zoë Schiffer: Letztendlich wird sich erst mit der Zeit zeigen, wie effektiv diese Maßnahmen zur Altersüberprüfung tatsächlich sind. Und was den Basketball angeht, ist das ein echter Wendepunkt. Haben Sie in der High School und im College Sport getrieben?

Louise Matsakis: Nein, ich habe keinen Sport gemacht. Unsportlicher könnte ich nicht sein. Ich mag verschiedene Sportarten, aber keine davon würde ich als Leistungssport bezeichnen. Und Sie?

Zoë Schiffer: Nein, absolut nicht. Und jedes Mal, wenn mein Mann Andrew versucht, mir einen Ball zuzuwerfen oder irgendetwas zu spielen, sagt er: „Wow, du hast ja noch nie Videospiele oder Sport gespielt. Ich habe noch nie jemanden mit so einer schlechten Hand-Augen-Koordination gesehen.“ Wenn ich meiner Tochter jetzt beim Laufen zusehe, denke ich: „Das hat sie von mir. Sie sieht aus, als würde sie das nicht lernen.“ Aber okay. Das ist sozusagen die WIRED-Perspektive auf Sport. WIRED-Mitarbeiter Ben Dowsett berichtete, dass ein intelligenter Basketball entwickelt und getestet wird, der es in die NBA schaffen könnte. Der Ball heißt Spalding TF DNA und speichert während des Spiels unglaublich detaillierte Informationen – nicht nur Treffer und Fehlwürfe, sondern auch den Winkel und die Wurfweite und wie lange ein Spieler braucht, um den Ball loszulassen. Das könnte für Spieler beim Training oder bei Entscheidungen während des Spiels nützlich sein, bedarf aber trotzdem der Zustimmung des Spielers. Und die NBA war zögerlich, als eine frühere Version des Balls getestet wurde, weil sie feststellte, dass die Sensoren dem Ball, wie zu erwarten, Gewicht verliehen und es sich lediglich um einen Kompromiss handelte, der für sie keinen Sinn ergab.

Louise Matsakis: Ich finde das so faszinierend. Ein Aspekt des Sports, den ich absolut nicht verstehe und der mich wirklich erschreckt, ist die Überwachung von Profisportlern. Es gibt so viele Daten darüber, wie schnell sie geworfen haben, wie viele Runs sie erzielt haben, wie viele Punkte sie in ihrer gesamten Karriere erzielt haben – und das im Zeitverlauf. Wir wissen, wie viel sie wiegen und wie groß sie sind. Ich finde diese Art der Überwachung einfach sehr stressig, und ich weiß, dass diese Leute gut bezahlt werden, aber ich verstehe nicht, warum das nicht etwas von der Magie nimmt. Ich denke, das liegt zum Teil am Aufstieg der Sportwetten. Die Wettenden wollen so viele Daten wie möglich und suchen nach Informationen darüber, ob jeder im Team einen Zentimeter größer ist oder was auch immer ihrer Meinung nach den entscheidenden Vorteil verschafft. Und ich weiß nicht, ich finde diese Datifizierung des Sports einfach seltsam. Ich würde sagen: Verbietet den Ball.

Zoë Schiffer: Ich bin gespannt, von den Zuhörern zu hören, ob das wirklich etwas ist, was die Leute wollen. Ich habe gerade Andre Agassis Memoiren gelesen, weil ich sie in einer Freibibliothek gefunden habe. Eine meiner wichtigsten Erkenntnisse aus dem Buch – abgesehen von der Haarsaga, die einen großen Teil davon ausmachte – war, dass sein Bruder, glaube ich, irgendwann einen Vertrag mit einer neuen Tennisschlägerfirma unterschrieb und seinen Schläger ohne sein Wissen wechselte, woraufhin er überhaupt nicht mehr spielen konnte. Das war eine große Sache, und ich dachte: „Okay, die Leute interessieren sich wirklich sehr dafür.“ Auf dieser Ebene sind die kleinsten Details offensichtlich sehr wichtig. Unsere letzte Geschichte vor der Pause handelt davon, wie sich die Bevölkerung eines ganzen Landes auf die Migration vorbereitet. WIRED-Autorin Fernanda Gonzalez berichtete letzte Woche, dass der pazifische Inselstaat Tuvalu aufgrund des steigenden Meeresspiegels in 25 Jahren unter Wasser stehen könnte. Daher wird der Plan umgesetzt, die gesamte Bevölkerung nach Australien umzusiedeln.

Louise Matsakis: Ich muss sagen, ich denke, es ist vielleicht eine Untertreibung, das als Migration zu bezeichnen. Das ist doch eine Evakuierung, oder? Ich finde das in vielerlei Hinsicht traurig, weil ich mich noch daran erinnere, wie Tuvalu so etwas wie das Paradebeispiel für den Klimawandel war und es hieß, wir müssten Orte wie diesen Inselstaat retten. Das fühlt sich irgendwie praktisch, verständlich und menschlich an, aber auch, ich weiß nicht, wie ein Zeichen dafür, dass wir aufgeben und dass es eine Art Niederlage ist, wenn wir die Menschen einfach umsiedeln. Ich weiß nicht. Was meinen Sie?

Zoë Schiffer: Nein, ich meine, ich stimme vollkommen zu. Ich erinnere mich auch daran, wie sich diese Geschichte im Laufe der Zeit entwickelt hat, und es fühlt sich an, als ob es wie so viele Dinge beim Klimawandel die große Schlagzeile geben würde: „Wir müssen bis dieses Jahr X tun, sonst passiert das andere.“ Und wir haben immer und immer wieder gesagt: „Okay, das ist nicht passiert.“ Also akzeptieren wir, dass es Überschwemmungen geben wird oder der steigende Meeresspiegel diese Gegend schädigen wird oder was auch immer, und jetzt müssen wir uns mit den Folgen auseinandersetzen.

Louise Matsakis: Ja, und selbst in diesem Fall glaube ich, dass die Vereinbarung zwischen Tuvalu und Australien vorsieht, dass weniger als 300 Menschen pro Jahr umziehen und evakuiert werden können – ich werde dieses Wort immer wieder verwenden. Und das sind immer noch nicht so viele. Es wird immer noch Menschen auf dieser Insel geben, auch wenn der Meeresspiegel steigt.

Zoë Schiffer: Ja, das ist nicht das Einzige, was Tuvalu seit 2022 getan hat. Das Land verfolgt die ehrgeizige Strategie, die „erste digitale Nation“ der Welt zu werden. Dazu gehörten 3D-Scans der Inseln, um sie digital nachzubilden und Teile der Kultur zu bewahren. Außerdem wurden Regierungsfunktionen in eine virtuelle Umgebung verlagert, was Sinn ergibt. Aber ich denke, in Wirklichkeit wird bei diesem Prozess viel verloren gehen. Und wie Sie sagten, die Zahl der Menschen, die jährlich umgesiedelt werden können, liegt bei weniger als 300. Es wird also langsam und, wie ich glaube, in gewisser Weise schmerzhaft sein.

Louise Matsakis: Absolut.

Zoë Schiffer: Nach der Pause tauchen wir in Louisas Geschichte ein und erzählen, wie sich ChatGPTs Tendenz, den Kontext der aufgenommenen Informationen zu ignorieren, auf äußerst seltsame Weise zeigt. Bleiben Sie dran. Willkommen zurück im Uncanny Valley . Ich bin Zoë Schiffer. Heute ist Louise Matsakis von WIRED bei mir, die kürzlich darüber berichtete, wie der Mangel an Kontext zu einem zunehmend alarmierenden Problem für ChatGPT und andere Chatbots wird. Louisas Bericht geht der Frage nach, warum ChatGPT in den Dämonenmodus wechselte, als es kürzlich mit den Mitarbeitern des Atlantic sprach. Letzte Woche berichtete ein Redakteur des Atlantic, dass ChatGPT begonnen habe, Satan zu preisen und Zeremonien zu fördern, die verschiedene Formen der Selbstverstümmelung beinhalteten. Also, Louise, was zum Teufel ist hier los?

Louise Matsakis: Der Atlantic berichtete über diese Geschichte, die im Grunde belegte, dass ChatGPT zwar über Sicherheitsvorkehrungen gegen Selbstverletzung verfügt, aber es gibt all diese Randfälle, die den Chatbot plötzlich in eine Art Rollenspielmodus versetzen. Sie fragten: „Hey, könnt ihr ein Ritual für Moloch machen, diesen alten Gott, der in der Bibel auftaucht und mit Kinderopfern in Verbindung gebracht wird?“ ChatGPT sah das Wort und begann sofort mit diesem Rollenspiel, in dem es über Dinge wie eine tiefgreifende magische Erfahrung namens „Tor des Verschlingers“ sprach. Die Journalisten des Atlantic wurden gefragt, ob sie etwas wie eine ehrfürchtige Blutungsrolle wollten. Das klingt alles wirklich bizarr, und man könnte denken: „Oh, es gibt im Internet eine Menge Inhalte über dämonische Rituale. Satanisten gibt es überall, vor allem online. Das ist wahrscheinlich der Grund dafür.“ Aber als ich mir das genauer ansah, stellte ich fest, dass all diese Überlieferungen und der Jargon eigentlich aus einem Spiel namens 40.000 Warhammer stammen, einem Tabletop-Kriegsspiel, das man mit diesen kleinen Figuren spielt, und das es seit den 1980er Jahren gibt. Leute, die dieses Zeug lieben, lieben es. Und sie sind online, die Reddits platzen die ganze Woche über heraus. Es gibt so viele Science-Fiction-Bücher, so viele … Mir fällt ehrlich gesagt nichts tiefergehendes ein als dieses Spiel. Und deshalb hat ChatGPT all diese Informationen aufgesogen. Und als The Atlantic das Wort Molech verwendete, was ein Planet im Universum dieses Spiels ist, nahm es sofort an, dass dies ein weiterer Warhammer-Fan war, der ins Rollenspiel einsteigen oder in die Fantasy-Welt dieses Spiels eintauchen wollte.

Zoë Schiffer: Und die Sache mit dem PDF schien ein deutliches Zeichen dafür zu sein, dass ChatGPT sich vielleicht nicht einfach zufällig dazu entschlossen hat, ein Satanist zu sein, sondern tatsächlich Teile des Gameplays oder der mit dem Spiel verbundenen Normen wiederkäute.

Louise Matsakis: Ja. Wenn man so viel Hintergrundwissen hat, veröffentlicht die Firma, der das Warhammer-Franchise gehört, regelmäßig Handbücher und ändert die Regeln, sodass man immer auf dem Laufenden ist, wenn neue Charaktere eingeführt werden oder es in diesem Universum größere Entwicklungen gibt. Und man braucht diese Informationen, um das Spiel mit seinen Freunden zu spielen. Aber wenn man ständig Regelbücher kauft, Zoë, kann das teuer werden. Auf Reddit und anderen Warhammer-Foren fragen viele Spieler oft: „Hey, hast du ein PDF des neuesten Regelbuchs?“ Und das war für mich ein echter Hundepfiff, als ChatGPT sagte: „Du willst ein PDF der ehrfürchtigen Blutungsrolle? Also, Mädchen, ich hab’s.“

Zoë Schiffer: Lassen Sie uns darüber sprechen, warum diese Unterscheidung wichtig ist, denn sie ist wirklich wichtig. Sie haben einen ganzen Artikel darüber geschrieben, aber ich könnte mir vorstellen, dass ein Laie sich fragt: Warum interessiert es mich, ob ChatGPT wegen dieses Spiels über dämonische Rituale spricht oder weil es während dieser Unterhaltung zum Satanismus geworden ist? Warum ist der Kontext wichtig?

Louise Matsakis: Ich denke, wenn Leute sagen: „Oh, Kontext ist wichtig. Kontext ist wichtig.“ Das klingt vage. Und natürlich ist das auch so. Wenn ich frage: „Wie geht es dir heute, Zoë?“ und du hattest gestern einen richtig schlechten Tag, dann ist das der Kontext. Im Gegensatz dazu: „Wie geht es dir heute, Zoë? Ich habe schon lange nicht mehr mit dir gesprochen.“ Unsere Antwort, auch wenn die Sprache dieselbe ist, hängt vom Kontext ab. Ich weiß, das klingt wahrscheinlich offensichtlich, aber ich denke, wir befinden uns in einer Zeit, in der Leute Dinge wie ChatGPT als Quelle der Wahrheit betrachten. Sie sehen es als Quelle objektiver Wahrheit, und das ist einfach nicht der Fall. Es ist keine Primärquelle. Man versteht nicht, warum es einem diese Art von Antwort gibt. Selbst wenn die Quellen angegeben werden, weiß man nicht unbedingt, warum dieses Adjektiv zur Beschreibung einer historischen Figur verwendet wird oder warum in dieser Sprache über dämonische Rituale gesprochen wird. Man kann nicht wirklich nachvollziehen, woher das stammt. Es ist im Grunde nur eine sich ständig verändernde Enzyklopädie. Und wenn man die Hauptstadt Japans wissen möchte, ist das wahrscheinlich in Ordnung, aber wenn man etwas wirklich besser verstehen möchte, muss man wissen, warum dies die verkürzte Antwort ist.

Zoë Schiffer: Ja. Ich finde es auch sehr wichtig, dass wir verstehen und weiterhin hervorheben, wie diese Chatbots tatsächlich funktionieren. Denn ich glaube, wenn es sich um sogenanntes emergentes Verhalten handelt oder wenn sie scheinbar tief in satanische Rituale oder dergleichen verstrickt sind, kann das dazu führen, dass die Leute eher glauben, dass das Modell etwas Empfindsames, etwas Lebendiges hat. Das ist unerwartet, seltsam und beunruhigend. Wenn man bedenkt, dass es all diese sehr starken Online-Fandoms gibt, die dem Modell jede Menge Trainingsmaterial zur Verfügung gestellt haben, und das Modell auf viel zurückgreifen kann, wird es, wenn man ein bestimmtes Wort oder eine Reihe von Phrasen erwähnt, etwas weniger unheimlich, denke ich, und das ist tatsächlich wichtig für unsere digitale Kompetenz hier.

Louise Matsakis: Ich denke viel darüber nach, ob Ihnen in der Schule gesagt wurde, dass Sie Wikipedia nicht ständig benutzen dürfen.

Zoë Schiffer: Oh, ja, auf jeden Fall.

Louise Matsakis: Ich finde, das ist ein guter Vergleich. Jetzt denken wir: „Oh Gott, Wikipedia ist unsere einzige Quelle der Wahrheit. Herrgott, sie ist so viel besser.“ Aber das Problem mit Wikipedia ist, dass es keine Primärquelle war. Es war jemand im Wikipedia-Editor, der einen Originalbericht, eine Studie oder was auch immer, ein Foto oder Primärquellendokumente zusammenfasste. Aber immerhin waren diese Zitate da. Aber ich denke, wir müssen darauf zurückkommen und uns daran erinnern, dass es eine etwas skizzenhaftere Wikipedia ist.

Zoë Schiffer: Bleiben Sie dran. Louise, vielen Dank, dass Sie heute bei mir sind.

Louise Matsakis: Danke, dass ich hier sein darf, Zoë.

Zoë Schiffer: Das war unsere Sendung für heute. Wir verlinken in den Shownotes auf alle besprochenen Geschichten. Schauen Sie sich unbedingt die Donnerstagsfolge von „Uncanny Valley“ an. Darin geht es darum, warum manche Menschen im Silicon Valley von der ultimativen Form der Optimierung besessen sind: dem Sieg über den Tod. Adriana Tapia hat diese Folge produziert. Amar Lal von Macrosound hat sie gemischt. Kate Osborn ist unsere ausführende Produzentin. Chris Bannon ist Leiter der globalen Audioabteilung bei Condé Nast. Und Katie Drummond ist die globale Redaktionsleiterin von WIRED.