Serio, czym jest „superinteligencja”?

Meta właśnie ogłosiła ważny ruch w swoich działaniach w zakresie AI — inwestuje w Scale AI i buduje laboratorium badawcze superinteligencji AI. Podczas gdy Meta stara się dotrzymać kroku dużym markom w wyścigu AI, takim jak OpenAI, Anthropic i Google, nowa strategia firmy obejmuje wydanie poważnych pieniędzy na pozyskanie talentów i zainwestowanie w Scale AI.

W dzisiejszym programie przyjrzymy się bliżej umowie między Meta i Scale AI, w tym temu, co Meta zamierza uzyskać z inwestycji, i zadamy pytanie, które nas wszystkich nurtuje: Czym właściwie jest nadludzka inteligencja?

Możesz śledzić Michaela Calore na Bluesky na @snackfight , Lauren Goode na Bluesky na @laurengoode i Katie Drummond na Bluesky na @katie-drummond . Napisz do nas na [email protected] .

Podcastu z tego tygodnia możesz zawsze posłuchać za pomocą odtwarzacza audio na tej stronie, ale jeśli chcesz zapisać się bezpłatnie i otrzymywać wszystkie odcinki, oto jak to zrobić:

Jeśli masz iPhone'a lub iPada, otwórz aplikację o nazwie Podcasts lub po prostu stuknij ten link . Możesz również pobrać aplikację, taką jak Overcast lub Pocket Casts i wyszukać „Uncanny Valley”. Jesteśmy również na Spotify .

Uwaga: Jest to zapis automatyczny, który może zawierać błędy.

Michael Calore: Jak wam mija ten tydzień?

Katie Drummond: Cóż, wróciłam i jestem taka szczęśliwa, że ​​tu jestem. Zjadłam tyle masła we Francji w zeszłym tygodniu, przez pierwsze kilka wieczorów, które miałam dla siebie. A co normalna osoba robiłaby w Paryżu? Może wyszłaby, usiadłaby przy barze i zjadłaby kolację sama, może spotkałaby się z przyjacielem. Ja jadłam masło i chleb sama w moim pokoju hotelowym. I powiem ci, jeśli mnie słuchasz i jesteś mamą z małym dzieckiem lub małymi dziećmi, jeśli jesteś mężatką, jeśli zmagasz się z posiadaniem małżonka i dziecka, a może zwierząt domowych i pracowitej pracy, nie ma lepszego doświadczenia niż jedzenie francuskiego masła i chleba sama w pokoju hotelowym.

Michael Calore: Wow.

Lauren Goode: Uncanny Valley , prezentowana przez lobby mleczarskie.

Katie Drummond: Przez francuskie lobby mleczarskie. Czuję się niesamowicie. Jak się macie?

Lauren Goode: Wszystko w porządku. Mam grzywkę.

Katie Drummond: Naprawdę?

Lauren Goode: Tak. Więc większość naszych słuchaczy nie może tego zobaczyć, chyba że obejrzy nasze nowe reklamy wideo online, ale mam grzywkę. Często istnieje korelacja między tym, co dzieje się na świecie, a kobietami, które obcinają grzywkę. To wszystko, co mam do powiedzenia na ten temat. Ale poza tym jestem świetna. Jestem świetna. Oceń grzywkę, wejdź do sieci. Kciuk w górę, kciuk w dół.

Katie Drummond: Pięć na pięć.

Lauren Goode: Dziękuję. Katie, naprawdę, byłaś moją inspiracją.

Katie Drummond: Och, nie, to zbyt miłe. Ale uwielbiam grzywkę i nienawidzę czoła.

Michael Calore: No więc, mam dla ciebie fryzurę.

Lauren Goode: No cóż, Mike, jak się masz? Przepraszam za to, Mike.

Katie Drummond: Ale jest tam tyle inteligencji, Mike. O to właśnie chodzi.

Michael Calore: Jestem taki, jakim Bóg mnie stworzył.

Katie Drummond: Jak się masz?

Michael Calore: Mam się świetnie. Nie mam żadnych historii o włosach. Ostatnio nie jadłem masła, więc teraz czuję się naprawdę pominięty. To Uncanny Valley z WIRED, program o ludziach, potędze i wpływie Doliny Krzemowej. Dzisiaj rozmawiamy o niedawnej inwestycji Meta w Scale AI i jej ruchu w celu zbudowania laboratorium badawczego superinteligencji AI. To najnowszy wysiłek Meta, aby konkurować z dużymi nazwami w wyścigu AI , takimi jak OpenAI , Anthropic i Google . Ale Meta podejmuje inne podejście. Nie tylko jej modele AI są open source, ale w typowy dla Meta sposób, wydaje się, że próbuje przewyższyć swoich konkurentów wydatkami, aby pozyskać najlepsze talenty, a jej inwestycja w Scale AI, która nie jest przejęciem, jest po prostu częścią tej strategii. Zanurzymy się w tym, co Meta ma nadzieję uzyskać z tej inwestycji i co faktycznie otrzymuje, i czy ten ruch może dać firmie przewagę konkurencyjną, której szuka. Ponadto zapytamy, czym w ogóle jest superinteligencja? Nazywam się Michael Calore i jestem dyrektorem ds. technologii konsumenckich i kultury w WIRED.

Lauren Goode: Nazywam się Lauren Goode. Jestem starszą korespondentką w WIRED.

Katie Drummond: Nazywam się Katie Drummond i jestem globalną dyrektorką wydawniczą WIRED.

Michael Calore: Zacznijmy więc od zagłębienia się w Scale AI. W przeciwieństwie do Meta, firma nie jest tym, co można by nazwać powszechnie znaną nazwą poza Doliną Krzemową, ale z pewnością wyrobiła sobie markę w świecie AI. Co słychać w Scale?

Lauren Goode: Scale AI to firma zajmująca się etykietowaniem danych. Brzmi bardzo seksownie, prawda? Wykonują oni ciężką pracę polegającą na analizowaniu i kategoryzowaniu danych, które są później dystrybuowane do większych modeli AI w celu ich wyszkolenia. To nic wyszukanego, ale pełnią istotną funkcję w celu udoskonalenia programów uczenia maszynowego. Mają też kilku naprawdę dużych klientów. Wśród ich klientów były firmy takie jak OpenAI i Google. Na początku tego roku nasz kolega Will Knight poinformował o nowej platformie Scale AI, która umożliwia automatyczne testowanie modeli AI pod kątem kluczowych testów porównawczych i lokalizowanie wszelkich słabości w modelach. Zasadniczo Scale AI dokłada wszelkich starań, aby zostać kluczowym partnerem, współpracując z tymi większymi firmami AI.

Katie Drummond: Myślę, że warto również podkreślić, że tak naprawdę sercem sukcesu firmy jest jej założyciel, Alexandr Wang, bez „e”, prawda?

Michael Calore: Tak.

Lauren Goode: Tak.

Michael Calore: Jest Flickrem wśród dyrektorów generalnych.

Katie Drummond: No i masz. Ma 28 lat i w pewnym momencie był najmłodszym miliarderem, który sam się dorobił, co jest dość niesamowite. Jest więc znaną osobistością w Dolinie Krzemowej i prawdopodobnie najbardziej znany jest z tego, jak bardzo angażuje się w sieci, o czym, biorąc pod uwagę, że nie mieszkam w San Francisco, Lauren i Mike prawdopodobnie mogą ci powiedzieć znacznie więcej. Ale kiedyś był współlokatorem Sama Altmana , który rzekomo, rzekomo powiedział mu, żeby trochę przyhamował w kontaktach. Nie jest jasne, jakie dokładnie mogły być motywacje, ale Wang wyraźnie nie przejął się tą radą i opłaciło mu się to. Więc ta najnowsza umowa między Meta i Scale AI została faktycznie zawarta po tym, jak Wang i Zuckerberg podobno spędzili dużo czasu sam na sam w sieci, przypuszczalnie. To właśnie jego relacje z wieloma kluczowymi graczami w branży sztucznej inteligencji zapewniły mu tak potężną pozycję i uznanie firmy takiej jak Meta, która, jak o tym porozmawiamy nieco później, naprawdę mogłaby skorzystać z pomocy w dziedzinie sztucznej inteligencji.

Bloomberg niedawno doniósł , że Wang jest znany z dzwonienia do „oszałamiającej liczby osób”, nie tylko starszych, ale i młodszych pracowników w firmach AI, aby dowiedzieć się, nad czym pracują i co chcą zrobić. Jest więc nie tylko networkerem, ale także kimś, kto trzyma ucho przy ziemi. Jest w pewnym sensie w temacie AI w Dolinie Krzemowej.

Lauren Goode: To brzmi wyczerpująco.

Katie Drummond: Tak. Czułam się zmęczona, gdy o tym mówiłam.

Lauren Goode: Tak. A jak naprawdę wygląda networking w Dolinie Krzemowej? To tak, czy ty…

Katie Drummond: No cóż, powiedzcie mi. Co robicie?

Lauren Goode: Tak, nie wiem. Spotkać się z kilkoma ludźmi w Blue Bottle, zanim pójdziesz do Marine Layer, a potem pójść na całonocną imprezę programistyczną w wozowni rezydencji w Pacific Heights? Nie wiem. Jak to wygląda?

Michael Calore: To dużo chodzenia i rozmów.

Katie Drummond: Naprawdę?

Lauren Goode: Tak, w Valley tak.

Michael Calore: Tak.

Lauren Goode: W okolicach Palo Alto ludzie... Czy w San Francisco też tak robią?

Michael Calore: O, tak.

Lauren Goode: Tak? Tak, to jest coś?

Michael Calore: Tak, ludzie chodzą i mówią.

Katie Drummond: Skoro już mowa o spacerach i rozmowach, Mike, chciałabym usłyszeć więcej o szczegółach umowy.

Michael Calore: Tak. Porozmawiajmy o tym, ile pieniędzy jest na stole w tej umowie, plus o tym, co Meta ma nadzieję uzyskać z inwestycji, a co być może najważniejsze, co faktycznie otrzymuje z tej umowy.

Lauren Goode: Tak więc umowa została ogłoszona jako inwestycja w Scale AI o wartości 14,3 miliarda dolarów. Żeby było jasne, to nie jest przejęcie. Oni po prostu przejmują 49 procent udziałów w Scale AI, a także sprowadzają Alexandra Wanga i grupę talentów, ale to nie jest przejęcie, ludzie. Nie nazywajmy tego w ten sposób. Widzieliśmy falę tego w ciągu ostatnich 12 do 18 miesięcy, kiedy Microsoft i Google również albo dokonywały strategicznych inwestycji, albo zawierały umowy licencyjne z mniejszymi graczami AI, aby w pewien sposób włączyć ich do grona, ale niekoniecznie stawić czoła kontroli rządu USA i Departamentu Sprawiedliwości, ponieważ chcą działać szybko. Chcą budować te AI tak szybko, jak to możliwe, więc chcą po prostu sprowadzić cały ten talent. I tak, wrzucamy tutaj Meta, ale to jest zasadniczo to, co robią ze Scale AI.

Teraz dla Alexandra, naszego głównego networkera, ta umowa obejmuje również rolę lidera w tym projekcie superinteligencji, który Meta będzie budować. Zajmiemy się tym później, gdy porozmawiamy o superinteligencji i czym ona dokładnie jest. Zuckerberg, Meta posiada teraz strategiczne 49 procent udziałów w Scale AI. Jeśli chodzi o to, co Meta naprawdę otrzymuje z tej umowy, głównym atutem jest ogromna ilość danych szkoleniowych AI, którymi dysponuje Scale AI, a to prowadzi do tego, co Meta ma nadzieję osiągnąć w dłuższej perspektywie, czyli do wzmocnienia rozwoju swoich projektów Meta AI.

Katie Drummond: I mam na myśli, że Meta z pewnością robi tutaj wiele sprytnych rzeczy, można powiedzieć, jedną z nich jest to, że postawili swoich konkurentów w dość trudnej sytuacji, jeśli chodzi o to, czy powinni kontynuować współpracę ze Scale AI, czy też przejść do innych firm. A Scale AI ma również inne partnerstwa poza ekosystemem AI. Więc firma ma umowy z rządami zagranicznymi w Azji i Europie, ma umowę z DOD na pierwszy w swoim rodzaju program agentów AI, co brzmi tak dystopijnie, jak prawdopodobnie jest. Nazywa się Thunder Forge. A celem jest zasadniczo wzmocnienie operacji wojskowych za pomocą agentów AI. Mam na myśli, że jest to dokładnie to, co myślisz, że będzie. A Meta mogłaby potencjalnie skorzystać ze wszystkich tych sojuszy, które ma Scale AI. Więc z pewnością można powiedzieć, że jest to korzystne dla obu stron porozumienie, które stawia wielu graczy w przestrzeni AI pod obserwacją, jeśli chodzi o Meta.

Lauren Goode: Mam na myśli, że myślę, że najważniejszą rzeczą, o której należy pamiętać w przypadku Meta, jest to, że Meta kupuje sobie drogę do innowacji. Nie rozwija jej całkowicie samodzielnie. Jeśli spojrzysz na WhatsApp, jeśli spojrzysz na Instagram, jeśli spojrzysz na Oculus, wszystko to przejęła Meta. A potem czasami, gdy Meta próbuje samodzielnie wymyślić jakąś wizję przyszłości, jak Metaverse, o którym słyszeliśmy dwa lata temu, to upada na twarz, lub twarz komputera, jak lubimy mówić. Meta blokuje tutaj nie tylko dane ze Scale AI, ale także blokuje talent i technologię, które uważa za kluczowe dla przejścia do tej następnej fazy AI. Zbyt uproszczony sposób patrzenia na to byłby taki, że naprawdę potrzebujesz dwóch rzeczy, aby podnieść poziom AI już teraz, potrzebujesz większej mocy obliczeniowej i potrzebujesz dużej ilości danych, a najlepiej danych wysokiej jakości.

To jest ewidentnie zakup danych, a także sposób na uniemożliwienie innym firmom potencjalnego korzystania z nich. Jak powiedziała Katie, Google wycofuje się teraz ze swojego partnerstwa ze Scale AI.

Michael Calore: A Meta robi to, ponieważ ma długą drogę do przebycia, aby dotrzeć na szczyt, prawda? Rozmawialiśmy o tym, jak Meta potykała się przez ostatnie kilka lat w wyścigu AI, więc chcę się temu trochę przyjrzeć, szczególnie w kontekście tego, jak pozostawała w tyle za swoimi konkurentami i co konkretnie próbuje zrobić, aby wyprzedzić tę inwestycję.

Lauren Goode: Zgadza się, z tą strategiczną inwestycją, Mike. Krótka odpowiedź brzmi: Llama, która jest jego podstawowym modelem, odpowiedzią na ChatGPT OpenAI i Google Gemini. Niestety, jak dotąd Llama nie spełniła oczekiwań. Nie jest tak wydajna jak konkurencyjne systemy OpenAI i Google. Warto jednak zauważyć, że Meta próbowała się wyróżnić, udostępniając Llama jako oprogramowanie open source, co oznacza, że ​​swobodnie udostępnia kod źródłowy zewnętrznym programistom i firmom. Więc myślę, że wierzy, że w dłuższej perspektywie będzie to dla niej korzystne, nawet jeśli teraz nie wygrywa pod względem prędkości i kanałów.

Michael Calore: Czy mógłbym zapytać, jaka jest powszechna opinia na temat tego, dlaczego Meta zdecydowała się udostępnić Llama jako model open source, zamiast utrzymać go w wersji zamkniętej, jak wszyscy konkurenci?

Lauren Goode: Tak, to dobre pytanie. Chciałabym po prostu zadzwonić do Marka i zapytać go o to bezpośrednio, ale nie mogę i nie wiemy dokładnie, co mu chodzi po głowie. Ale myślę, że w każdym solidnym środowisku technologicznym będziesz miał blokadę i będziesz miał dostawców open source, czy mówisz o komputerach mainframe IBM, a potem o Linuksie, czy o oprogramowaniu Apple kontra Google Android, i myślę, że Google Android jest najczęściej używanym systemem operacyjnym na świecie, a różne produkty, modele biznesowe i modele licencjonowania się z tego wywodzą. I to może być część tego, o czym Mark Zuckerberg myśli długoterminowo. Myślę, że czuje się również bardzo poparzony przez Apple. Mam na myśli, że powiedział to konkretnie, kiedy napisał post na blogu w zeszłym roku, przedstawiając argumenty, dlaczego Llama jest open source. Powiedział, że aby to dobrze zrobić, musimy upewnić się, że zawsze mamy dostęp do najlepszej technologii i że nie wkraczamy w zamknięty ekosystem konkurencji, gdzie może ona ograniczać to, co tworzymy.

I powiedział, że jednym z jego najbardziej kształtujących doświadczeń, budowania usług Meta, było ograniczenie tych usług przez to, co Apple pozwoli Meta robić na swoich platformach. Więc kiedy myśli o przyszłości AI i o tym, co wydarzy się w ciągu najbliższych kilku lat lub później, myślę, że nie chce, aby Meta była zamknięta.

Michael Calore: Tak, wydaje się, że wszystkie wysiłki Meta w zakresie AI były bardzo powierzchowne, takie lekkie rzeczy skierowane do konsumenta, prawda? Mają aplikację Meta AI, której można używać do czatowania, zasadniczo jak chatbot, włączyli swoją AI do inteligentnych okularów i stworzyli te chatboty, które żyją w Instagramie i pozwalają rozmawiać z kimś , kto mówi jak Snoop Dog . Jest też wyszukiwanie wspomagane przez AI, które zostało wdrożone we wszystkich różnych projektach Meta, ale naprawdę wydaje się, że tego rodzaju społeczna gra w AI, w szczególności chatbot AI, była rzeczą, na której się skupiali. Nie mają zaawansowanych systemów, które korporacje mogą licencjonować. Nie mają wielu dużych amunicji, które mają inne firmy.

Katie Drummond: Cóż, a AI skierowana do konsumentów, jeśli mogę być tak śmiała, nie jest szczególnie dobra, dobrze zaprojektowana, dobrze wykonana ani nie zapewnia szczególnie dobrego doświadczenia użytkownika. Nie mam konta na Facebooku i nie mam go od bardzo dawna. Korzystam z Instagrama. Ani razu nie korzystałam z tego chatbota. Więc te zakłady skierowane do konsumentów nie były szczególnie udane, oprócz tego, że nie były zbyt dobre, ale ostatnio miały też kilka dość znaczących błędów na froncie prywatności. Niespodzianka, niespodzianka, Meta ma problemy z prywatnością. Nasza koleżanka, Kylie Robison, zgłosiła, że ​​aplikacja faktycznie pokazała... To szaleństwo. To po prostu szaleństwo. Aplikacja pokazała prywatne rozmowy między chatbotem a użytkownikami, w tym informacje medyczne, adresy domowe, a nawet rzeczy bezpośrednio związane z oczekującymi sprawami sądowymi, w których ludzie rozmawiali z chatbotem, zadawali mu pytania, otrzymywali pomoc w przypadku jakichkolwiek dziwnych, chorych pytań, na które próbowali odpowiedzieć, lub problemów, które próbowali rozwiązać.

I nieświadomie dla nich, te rozmowy pojawiały się w kanale społecznościowym, gdzie każdy mógł zobaczyć kogoś próbującego złamać umowę najmu lokatora lub uzyskać dostęp do pornografii lub uzyskać diagnozę medyczną dziwnego guza na stopie. Wszystkie te rzeczy, tak, czy powinieneś być ostrożny w rozmowach z jakimkolwiek chatbotem? Absolutnie. Ale większość ludzi przynajmniej zakłada, że ​​te dialogi i te wymiany zdań nie zostaną po prostu opublikowane w Internecie. Mam na myśli, że to dość oszałamiająca porażka. I na pewno nie wydaje się to przypadkowe, nie wydaje się, że po prostu pomyśleli: „Och, jakie to żenujące, że to się stało”. Po prostu nie sądzę, żeby ich to obchodziło. I to jest oczywiście narracja wokół Meta od bardzo dawna, która jest taka, że ​​pojawiają się problemy z ich usługami, szczególnie jeśli chodzi o prywatność, a ktoś tam w mediach o tym donosi, a potem to łatają, i dokładnie to stało się tym razem. Myślę, że umieścili na górze chatbota informację o wyłączeniu odpowiedzialności, abyś wiedział, że wyrażasz zgodę lub nie na pewnego rodzaju publiczne udostępnianie swoich rozmów.

Ale po prostu wydaje się, że nie są szczególnie zainteresowani głębokim przemyśleniem kwestii prywatności, co moim zdaniem, jeśli chodzi o chatboty i sztuczną inteligencję i ten odważny nowy świat, do którego wszyscy zmierzamy lub do którego jesteśmy wprowadzani, w niektórych przypadkach powinniśmy poświęcić trochę czasu na przemyślenie kwestii prywatności. Teraz, oczywiście, dzięki tej umowie ze Scale AI, Meta ma nadzieję na zmianę strony, na otwarcie nowego rozdziału we wszystkich swoich działaniach w zakresie sztucznej inteligencji, skierowanych do konsumentów lub innych, szczególnie w tym laboratorium superinteligencji AI.

Michael Calore: To jest coś, co jest naprawdę ważne, że Meta nie składałaby wszystkich tych wielkich oświadczeń na temat superinteligencji. Nie dokonywałaby tej inwestycji, gdyby nie czuła, że ​​już poniosła porażkę w wyścigu o opracowanie silnych programów AI. Ponieważ to nie jest po prostu reorganizacja lub reorganizacja, to jest całkowity reset. To zupełnie nowy zespół z nowym kierownictwem i nową misją. Przez bardzo długi czas osobą, która kierowała działaniami Meta w zakresie AI, był Yann LeCun , który jest bardzo szanowanym guru SI w Dolinie Krzemowej. Zdobył Nagrodę Turinga, czyli trofeum dla nerdów dla inżynierów AI. Ale LeCun słynie z tego, że nie uważa, że ​​sztuczna inteligencja ogólna jest czymś, co jest na horyzoncie. Nie jest wielkim zwolennikiem chatbotów. Widzi wartość w dużych modelach językowych, ale to nie jest obszar jego zainteresowań. I myślę, że jeśli zamierzasz w pełni zagłębić się w to, OK, co będzie następne? Wtedy potrzebujesz nowej krwi. Potrzebni są ludzie, którzy naprawdę wierzą w tę kolejną fazę, którą, oczywiście, definiuje termin „superinteligencja”.

Lauren Goode: Superinteligencja.

Michael Calore: Zróbmy sobie przerwę, a potem wrócimy i zobaczymy, co to oznacza.

[przerwa]

Michael Calore: Witamy ponownie w Uncanny Valley . Przed przerwą wspominaliśmy, że kluczowym aspektem tej umowy między Meta i Scale AI, poza wszystkimi dużymi pieniędzmi, jest stworzenie laboratorium superinteligencji AI. Więc pytanie do grupy, czym do cholery jest superinteligencja?

Katie Drummond: Lauren?

Lauren Goode: Och, nie. Cóż, zasadniczo odnosi się to do rozwijania sztucznej inteligencji wykraczającej poza ludzki mózg. Nie jest do końca jasne, co to dokładnie oznacza. Przez ostatnie kilka lat słyszeliśmy o AGI, czyli sztucznej inteligencji ogólnej , teraz mówimy o superinteligencji. Z mojego zrozumienia, opartego na rozmowach z badaczami i technologami na ten temat, wynika, że ​​to nie jest moment przełączenia przełącznika, nie jest tak, że będzie jakiś konkretny model lub wydanie jakiegoś produktu, gdzie nagle powiemy: „Och, żyjemy w AGI” i „Och, następnym krokiem jest superinteligencja”. Wszystko to dzieje się w pewnym kontinuum. Ale chodzi o to, że chodzi o posiadanie czegoś, co jest tak inteligentne jak istota ludzka lub ludzki mózg w kieszeni telefonu, co jest po prostu szalone. Nie będzie świadome, nie będzie odczuwać emocji, ale będzie tak dobrze odtwarzać to wszystko, że poczujesz się tym trochę zdmuchnięty. I może to zła wiadomość dla nas, ludzi, naprawdę nie wiem.

Wiemy, że termin „superinteligencja” został spopularyzowany przez filozofa z Oksfordu, Nicka Bostroma, który w 2014 r. napisał książkę o superinteligencji. Przedstawił on przyszłość, w której sztuczna inteligencja rozwinie się do punktu, w którym będzie mogła zwrócić się przeciwko ludzkości i ją zniszczyć. A teraz, oczywiście, używa jej Mark Zuckerberg. Więc metawersum, superinteligencja, myślę, że w tym momencie mamy pewne pojęcie o tym, co znajduje się na półce z książkami Marka Zuckerberga.

Katie Drummond: I mam na myśli, myślę, że całe to pytanie, czym jest AGI? Czym jest superinteligencja? Mam na myśli, że tak wiele z tego to po prostu branding. To marketing, którego przemysł AI używa, aby wywołać poczucie, myślę, pewnego rodzaju zastraszenia, strachu, podziwu, szacunku i szacunku ze strony ogółu społeczeństwa, decydentów, prawodawców. Mam na myśli, że chcą, aby ta rzecz sprawiała wrażenie, że ta kolejna era jest tuż za rogiem i musimy się przygotować teraz. A jeśli nie będziemy gotowi, zanim Chiny będą gotowe, to będzie katastrofa, ponieważ to jest AGI. To jest jak, ale czym to właściwie jest? I myślę, że Meta robi coś super interesującego i trochę cynicznego tutaj, moim zdaniem, czyli pozycjonując to nowe laboratorium jako superinteligencję, w zasadzie mówią: „AGI? AGI jest takie zeszłoroczne. Nawet nie myślimy o AGI. Po prostu skaczemy aż do superinteligencji”.

Mam na myśli, że to marketing przez i przez. Nie mówię, że ta technologia się nie rozwija, że ​​nie poprawi się drastycznie z czasem, że nie zobaczymy, a już widzimy, AI, która jest w stanie robić rzeczy, które potrafią robić ludzie. Widzimy to cały czas. Jest mnóstwo, mnóstwo, mnóstwo przykładów tego. Ale myślę, że te terminy są używane w bardzo miękki, oportunistyczny sposób, aby liderzy branży i dyrektorzy mogli zabrzmieć i sprawić, by ich technologia brzmiała tak imponująco, tak wartościowo i tak onieśmielająco, jak to tylko możliwe. Tak myślę.

Michael Calore: To dobry marketing również dla rekruterów. Jeśli jesteś osobą, która jest profesjonalistą w branży AI, jesteś już całkiem dobrze opłacany, czujesz, że pracujesz nad kolejną wielką rzeczą, ponieważ gdzieś pracujesz nad AGI, a potem nagle jest tak, że tak, ale czy nie wolałbyś pracować nad superinteligencją?

Lauren Goode: Tak. Tak.

Michael Calore: Kto jeszcze pracuje nad superinteligencją? Czy są inne firmy AGI, które mówią: „OK, nie, czekaj, teraz my też to robimy”. Czy są ludzie, którzy pracują nad superinteligencją od jakiegoś czasu?

Lauren Goode: Zależy, którego wizjonera AI słuchasz. Sam Altman z OpenAI nadal wydaje się być dość skupiony na AGI. Powiedział, że uważa, że ​​zostanie to osiągnięte przed końcem obecnej kadencji prezydenckiej Trumpa. Dario Amadei z Anthropic powiedział, że uważa, że ​​AGI stanie się faktem w ciągu najbliższych dwóch lat. Więc to nadal są ludzie z AGI. Z drugiej strony masz Ilyę Sutskevera, który był byłym głównym naukowcem w OpenAI. Jest współzałożycielem firmy o nazwie Safe Superintelligence, a oni mają inne podejście. Prywatnie budują superinteligencję i mówią, że udostępnią tę technologię światu tylko wtedy, gdy zostanie uznana za bezpieczną. Więc myślę, że wszyscy w pewnym sensie pracują nad tym samym, ale „superinteligencja” to najnowsze słowo klucz.

Katie Drummond: Podoba mi się, że będą się ukrywać przez wiele lat.

Michael Calore: Tak.

Katie Drummond: Nie mogę się doczekać, aż wyjdą ze swoich bunkrów z bezpieczną sztuczną inteligencją.

Michael Calore: Tak, trzymają go przykutego łańcuchem w piwnicy.

Katie Drummond: Warto zauważyć, pomijając Ilyę, że nie wszyscy liderzy AI są zainteresowani szumem wokół superinteligencji. Są to więc osoby, które historycznie trzymały się z daleka, ale ostatnio więcej z nich zaczęło się odzywać, co uważam za godne uwagi. Thomas Wolf jest jednym z przykładów. Jest współzałożycielem i dyrektorem naukowym Hugging Faces. Niektóre części wizji Amadei nazwał „myśleniem życzeniowym w najlepszym razie”. Taka byłaby wizja AGI. A Demis Hassabis , dyrektor generalny Google DeepMind, podobno powiedział swoim pracownikom, że jego zdaniem branża może być nawet dziesięć lat od opracowania AGI, zauważając, że jest wiele rzeczy, których AI po prostu nie potrafi dzisiaj zrobić. Więc znowu, to jest sceptycyzm wokół AGI. Nie mówimy nawet o superinteligencji. Więc Bóg wie, kiedy to będzie gotowe. Myślę, że kiedy Ilya nam da znać.

Michael Calore: Porozmawiajmy o wszystkich zaangażowanych osobach. Naprawdę potrzebujesz wszystkich najlepszych talentów, aby naprawdę konkurować, jeśli zamierzasz cokolwiek zbudować, niezależnie od tego, jak to nazwiesz. I w tej inwestycji, którą Meta dokonała ze Scale AI, dostają Alexandra Wanga, przychodzi do firmy, przyprowadza ze sobą kluczowych ludzi ze Scale, aby pracowali z nim w Meta w laboratorium superinteligencji. A dzieje się to w czasie, gdy talenty AI są bardzo poszukiwane, a wszyscy czołowi inżynierowie otrzymują miliony i dziesiątki milionów dolarów rocznie za pracę w dużych firmach. I najwyraźniej Meta oferuje pakiety wynagrodzeń sięgające nawet dziewięciu cyfr, aby zachęcić ludzi do pracy w laboratorium superinteligencji.

Katie Drummond: Poczekaj. Czy możesz po prostu podać dziewięć cyfr? Czyli to nie setki tysięcy, to nie miliony, to nie dziesiątki milionów, to setki milionów?

Michael Calore: To ponad 100 milionów dolarów.

Lauren Goode: Co?

Michael Calore: Tak.

Katie Drummond: No cóż, jestem bez słów. Wiedziałam o siedmiu i ośmiu cyfrach, co też jest po prostu oszałamiające, ale dziewięć cyfr to nierealne. To nierealne pieniądze.

Lauren Goode: Dosłownie, muszę o tym teraz poczytać. Co? To takie szalone. Zmienię to, co powiedziałam wcześniej, kiedy powiedziałam: „Och, firmy próbujące awansować w dziedzinie AI teraz patrzą na moc obliczeniową i patrzą na dane”. Patrzą też na talent. To ogromna, ogromna część tego. Nadal nie mogę pojąć, ile pieniędzy oferują tym ludziom, ale myślę, że Meta uważa, że ​​właśnie to musi zrobić. Ciekawe, jak to wpłynie na ich następne sprawozdanie finansowe. Widzieliśmy też, że na początku tego tygodnia wieloletni inżynier uczenia maszynowego i naukowiec badawczy w OpenAI właśnie został przeniesiony na nowe stanowisko szefa rekrutacji w OpenAI, co jest fascynujące. Mam na myśli, że pierwsza reakcja jest taka, że ​​to ciekawa zmiana kariery. Ale potem myślisz sobie, och, ten facet będzie gadał. Teraz musi wyjść i zrekrutować najlepsze talenty do OpenAI, stale rekrutować najlepsze talenty do OpenAI i teraz musi konkurować z Meta, która oferuje inżynierom miliony, miliardy dolarów.

Więc myślę, że rzeczywiście teraz trwa wyścig o talenty. Inwestor Sequoia Capital David Kahn właśnie napisał post na blogu na ten temat, który czytałem, w którym stwierdził, że talent jest nowym wąskim gardłem w AI i porównał to do budowania drużyny sportowej. Wszystkie są wspierane przez jakąś mega-bogatą firmę technologiczną lub osobę, a gwiazdy mogą żądać szalonych pakietów wynagrodzeń w dziesiątkach milionów lub setkach milionów dolarów. Jednak w przeciwieństwie do drużyn sportowych, w których zawodnicy często mają długoterminowe kontrakty, umowy o pracę w AI mogą być krótkoterminowe i płynne, co oznacza, że ​​każdy może zostać przechwycony w dowolnym momencie.

Katie Drummond: To fascynujące, to groteskowe. Chcę wiedzieć wszystko o tym, ile zarabiają ci ludzie. Chcę wiedzieć wszystko. A dla Meta będzie interesujące zobaczyć, ile pieniędzy potrzeba, aby pozyskać najlepsze talenty. Mam na myśli, że pieniądze mają znaczenie. Gdyby ktoś zaoferował mi sto milionów dolarów za pracę dla kogoś, kim nie jestem tak podekscytowana, w firmie, która według mnie miała przeciętne osiągnięcia, a w dziedzinie sztucznej inteligencji raczej kiepską, sto milionów dolarów robi różnicę. I będzie bardzo ciekawie zobaczyć, czy Anthropics, OpenAI i Google tego świata mogą konkurować. Mam na myśli, że wiemy, że Zuckerberg sam dużo rekrutuje. Osobiście kontaktuje się z kandydatami. Zastanawiam się i dowiemy się, czy jest to korzystne dla firmy, czy nie.

Lauren Goode: Mam na myśli, że niezależnie od tego, co myślisz o Marku Zuckerbergu, Meta jest po prostu... Istnieje już od jakiegoś czasu. To 20-letnia firma. Jest notowana na giełdzie. Prawdopodobnie dostałbyś też jakiś naprawdę niezły pakiet akcji. Ale kiedy dołączasz do rakiety, takiej jak OpenAI, dołączasz, ponieważ myślisz, że jeśli wejdziesz wystarczająco wcześnie... W tym momencie nie jest nawet tak wcześnie, ale w pewnym momencie staniesz się multi-, multi-, multimilionerem, jeśli ta firma albo przyspieszy, albo się sprzeda, albo coś w tym stylu. A potem tworzy to efekt koła zamachowego, który zawsze widzimy w Dolinie Krzemowej, prawda? Wcześni pracownicy Google, którzy odeszli i poszli, żeby zacząć coś innego. W końcu zobaczymy tę falę ludzi z OpenAI, którzy odchodzą i zaczynają coś innego. Ale jeśli w tym momencie otrzymasz porównywalną ofertę od OpenAI lub Meta, to którą z nich wybierzesz, myśląc naprawdę o przyszłości?

Michael Calore: I mam na myśli, że jest wielu ludzi, którzy nie wezmą tych pieniędzy. Mam na myśli, że jeśli pomyślisz o typie ludzi, którzy zarabiają te super wysokie pensje, byli opłacani bardzo, bardzo dobrze przez wiele lat, może ich firma została przejęta i mieli z tego powodu duże wypłaty, więc teraz wygodnie siedzą na stanowisku w Anthropic lub OpenAI. A także projekt, nad którym pracują, jest czymś, co pasuje do ich umiejętności i być może chcą go doprowadzić do końca. Więc jest w tym trochę ego, jest w tym trochę decyzji życiowych i jest w tym etyka, na przykład, czy naprawdę chcesz pracować dla Meta? Czy chcesz budować to, co oni budują? Zwłaszcza po tym, jak ogłosili, że zaczną zezwalać na używanie ich technologii przez Departament Obrony i zaczną robić rzeczy wojenne za pomocą narzędzi AI, które budują, i narzędzi XR, które budują.

Więc tak, myślę, że wiele osób po prostu teraz siedzi bezczynnie i musi zdecydować, czy jako ludzie te pieniądze są dla nich warte zachodu.

Lauren Goode: Czy spędzacie czasem czas korzystając z aplikacji Blind?

Michael Calore: Nie. To ten, w którym ludzie rozmawiają o tym, jak wygląda praca w firmie?

Lauren Goode: Chodzi o pracę w firmie, ponieważ musisz się powiązać z firmą, gdy zapisujesz się na aplikację, ale to wszystkie tematy. I często ludzie przychodzą do grupy z pakietem odszkodowań i mówią, że otrzymałem to od Meta lub Amazon i co powinienem zrobić? I po prostu zdajesz sobie sprawę, jak odległy ten świat czasami jest od sposobu, w jaki żyje reszta świata lub reszta kraju. Ludzie, którzy mówią: „Cóż, nie wiem. Czy powinienem wziąć ten pakiet o wartości 700 000 $ od Amazon? A to bez kapitału własnego, świadczeń, czy też powinienem wziąć ten inny porównywalny pakiet od podobnej firmy, ale pozwoli mi pracować z domu? I nie wiem jednak, ponieważ mam 40 lat i mam tylko 10 milionów na emeryturze”. Jestem, o mój Boże, to jest świat, o którym mówimy.

Michael Calore: Tak.

Katie Drummond: Musimy zrobić więcej raportów na ten temat. Myślę, że odszkodowanie ludzi w Dolinie Krzemowej jest fascynujące.

Lauren Goode: Cóż, jeśli ktoś chciałby się ważyć, jeśli jesteś rekruterką, jeśli jesteś osobą, która została złożona z jednej z tych ofert z Laboratorium Meta Superinteligence, chcemy usłyszeć od ciebie.

Michael Calore: Wielkie pieniądze.

Katie Drummond: Z pewnością tak.

Lauren Goode: Nasze sygnały są dostępne.

Michael Calore: Duże pieniądze, bez Whammy.

Lauren Goode: Teraz wiemy, na co Katie by nas zostawił: Pracować dla Marka Zuckerberga.

Katie Drummond: Sto milionów dolarów to dużo pieniędzy. To dużo pieniędzy.

Lauren Goode: To dużo pieniędzy.

Katie Drummond: To byłoby dla mnie trudne. Nie sądzę, żebym mógł to zrobić.

Lauren Goode: Tak. Jeśli zainwestujesz, cóż, byłoby to dużo pieniędzy dla dzieci „dzieci” twoich dzieci.

Katie Drummond: Wiem, ale potem musiałbym powiedzieć mojemu dziecku, co robię, i nie wiem, czy mogę to zrobić. Jestem całkowicie szczery. Nie sądzę, żebym mógł to zrobić. Pozwól, że wyjaśnię, że w Meta pracuje wielu fantastycznych ludzi. Mam na myśli, że nie jest to odrzucenie niczyich decyzji lub wyborów zawodowych ani miejsca, w którym postanowili pracować, biorąc pod uwagę moje pochodzenie i to, co zarabiam na życie, tak, nie wiem. Nie sądzę, żebym mógł to zrobić.

Michael Calore: Możesz być częścią rewolucji superinteligencji.

Katie Drummond: Nie chcę.

Michael Calore: Może po prostu użyj chatbota, a potem możesz poczuć, że jesteś jego częścią.

Katie Drummond: Tak, proszę bardzo. Mam naciskane i wysoce osobiste pytania dotyczące Chatbota Meta, a gdy tylko zejdziemy z tego nagrania, idę zapytać je wszystkie na osobności.

Michael Calore: Nie mogę się doczekać, aby przeczytać je na [niesłyszalne 00:30:11].

Lauren Goode: Katie jest, jak wyodrębnić się z projektu roboczego, który mnie zamknął w pokoju przez dwie godziny co tydzień?

Katie Drummond: Och, kochanie.

Michael Calore: OK, zróbmy kolejną przerwę i wrócimy z zaleceniami.

[przerwa]

Michael Calore: W porządku, dziękuję oboje za wspaniałą rozmowę na temat superinteligencji. Myślę więc, że nadszedł czas, aby dać naszym słuchaczom coś z naszego własnego superinteligentnego ludzkiego mózgu, naszych zaleceń na tydzień. Lauren, czy chciałbyś iść pierwszy?

Lauren Goode: Jasne. Niedawno dowiedziałem się, że za pomocą generatywnych narzędzi AI, takich jak Chatgpt, możesz wykonać analizę kolorów. Czy któryś z was kiedykolwiek to zrobił?

Michael Calore: Nie.

Katie Drummond: Nie.

Lauren Goode: Więc to jest część świata infludepowe w Internecie, w którym zazwyczaj płaciłbyś komuś, czasem człowieka, czasem aplikacji, która ma wkład ludzki, analizować kolor twoich włosów, skóry, oczu, odcienia skóry, całego tego i powiedzieć, jakim jesteś sezonem, a następnie powiedzieć ci, jakim ubrania powinieneś nosić w sposób, który akcentuje całą twoją sytuację.

Katie Drummond: Czy uznałeś to rewelacyjne?

Lauren Goode: Tak. Tak niedawno, kiedy spotykałem się z przyjaciółmi, jedna z nich wykonała jej analiza kolorów, a my rozmawialiśmy o tym, a ona powiedziała: „Och, możesz to zrobić na Chatgpt”. I pomyślałem: „Co? Nie musisz płacić komuś kilkuset dolarów?” Więc przesłała nasze zdjęcia do Chatgpt i wykonałem analizę kolorów. I tak jestem głęboka jesień, na wypadek gdyby każdy chciał wiedzieć.

Michael Calore: To płonące pytanie.

Lauren Goode: To było palące pytanie. Pomyślałem, że może jestem zimą, ale jestem głęboką jesienią. I tak myślę, że do tej pory jest to najciekawszy przypadek użycia Chatgpt, którego do tej pory doświadczyłem.

Michael Calore: Ever, ze wszystkich…

Lauren Goode: Nie, to nieprawda.

Michael Calore: Ze wszystkich twoich doświadczeń.

Lauren Goode: To nieprawda. Pewnego dnia powiedział mi, jak gotować grzyby Salini zamiast grzybów Cremini. Jestem całkiem pewien, że grzyby Salini nie istnieją. To było również pomocne pod tym względem.

Katie Drummond: Yikes.

Lauren Goode: Ale nie, użyłem go też do innych rzeczy. Użyłem go do badań i rozumowania i takich zabawnych rzeczy.

Michael Calore: To całkiem niezłe.

Lauren Goode: Więc może później, właściwie zamierzam przesłać twoje zdjęcia do Chatgpt i poprosię o analizę kolorów.

Michael Calore: Nie zgadzam się.

Lauren Goode: A potem powiem ci… OK. Jaki kolor powinieneś nosić. Oboje nosicie teraz całą czarną.

Katie Drummond: Jak zwykle.

Michael Calore: Tak, zamierzałem powiedzieć. Nazywam te dni w dni powszednie.

Lauren Goode: Anarchistów w pokoju. Uwielbiam to. OK, to wszystko. To moja zalecenie.

Katie Drummond: Myślałem o tym, co polecić, i to byłaby książka, film lub jedzenie dla dzieci, a ja nie, dziewczyno, już je wszystkie. Musisz pomyśleć o czymś innym. Mam właściwie zalecenie związane z AI, czyli, że ostatnio ktoś przyszedł, aby pomóc mi z moimi roślinami na zewnątrz, jak nasz mały obszar podwórka na Brooklynie, i mówiłem mu, że wszystkie moje rośliny domowe umierają i walczą, a ja byłem tak zdezorientowany. Pomyślałem, w jakim oknie powinien wejść? A co… bla, bla, bla, bla, bla. Jak często podlewam wszystkie te rzeczy? Mam wiele roślin. I polecił tę aplikację o nazwie Picture This. I robisz zdjęcia wszystkich swoich roślin i przesyłasz zdjęcia do aplikacji, mówi ci to, jaki to jest roślina, mówi ci, jak często ją podlega. Możesz użyć telefonu, aby pokazać aplikację, ile słońca wchodzi przez okno, i powie ci, czy to wystarczy słońce, za dużo słońca, za mało Słońca.

Aha, i możesz zrobić zdjęcie rośliny i powie ci, czy jest chory i z czym się zmaga, co jest bardzo denerwujące, ale bardzo pomocne. Mam wiele walczących roślin. Ale to bardzo, bardzo fajne. Jest zdecydowanie wysoce osądzający. Mam teraz powiadomienia o pchaniu: „Czy nie chcesz dbać o swoje rośliny?” I tak, cóż, tak, ale mam też pracę. To bardzo, bardzo interesujący produkt, a jeśli masz rośliny, gorąco go polecam.

Lauren Goode: Wyobraź to sobie.

Katie Drummond: Wyobraź to sobie. Zdrowe rośliny, zdrowe ty. Superinteligencja, wyobraź sobie to.

Lauren Goode: Mike, jakie masz zalecenie?

Michael Calore: Myślę, że biorąc pod uwagę obecny stan geopolityczny świata, nadszedł czas, aby ponownie obejrzeć dr Strangelove , film Stanleya Kubricka z 1964 roku. Dr Strangelove lub: Jak nauczyłem się przestać martwić się i kochać bombę . Chodzi o eskalację napięć politycznych opartych na nieporozumieniu, które prowadzi do wojny nuklearnej. To farsa. To bardzo zabawne. Jest też bardzo suchy, ale to świetny film. Niestety, oglądam go ponownie raz w roku. Zazwyczaj jestem zmuszony bieżącymi wydarzeniami, aby to obejrzeć. Powiedziałbym więc, że to dobry moment, aby oglądać dr Strangelove . I nie mówię, że świat się skończy, ale ilekroć zaczniemy mówić o energii jądrowej i zaczynamy mówić o ludziach na świecie, którzy mają palce na guziku, ważne jest, aby przypomnieć sobie, że są to ludzkie decyzje, które ludzie podejmują o naszej przyszłości, i to świetny film, który pomoże ci przetworzyć te informacje.

Katie Drummond: Wow.

Lauren Goode: Więc Katie podlewa swoje rośliny, a ja ścinam grzywkę i oglądasz filmy o końcu świata. Widzę, kto wśród nas naprawdę nurkuje i kto…

Michael Calore: Więc wiele osób ignoruje pustkę. Wiele osób to uznaje. Jestem jedną z tych ludzi, którzy kładzie moją twarz prosto na szklankę i po prostu się na nią przeraża.

Katie Drummond: To jak mój mąż. Nie po to, żeby to wszystko o nim, ale… Czuję się, jakbym zakrył pustkę. Robię pustkę dla mojej pracy. Codziennie jestem w pustce. Więc kiedy nie mam pracy, chcę pojechać do La La Land. I tak zeszłej nocy mówiłem dziś ludziom, że mój mąż wysyła mi pisze do mnie powiązania z używanymi motorówkami, ponieważ był jak najbezpieczniejszy miejsce, abyśmy byli podczas ataku nuklearnego w środku zbiornika wodnego.

Lauren Goode: Dobry Panie.

Katie Drummond: A ja pomyślałem, a jak myślisz, co będziemy robić w tej małej motocyklu na środku oceanu Atlantyckiego u wybrzeży Nowego Jorku? Myślę, że jeśli sprowadza się to do łodzi motorowej lub śmierci, prawdopodobnie umrzemy.

Lauren Goode: Tak, tak.

Katie Drummond: Po prostu mówię.

Lauren Goode: To było przed snem, tak jak przed tym, jak miałeś iść spać?

Katie Drummond: Racja, gdy leżałem w łóżku, próbując iść spać, a rzecz przypomina ping, ping, linki do używanych łodzi.

Lauren Goode: Mam na myśli, myślę, że w dzisiejszych czasach jesteśmy trochę puste, więc nie możesz tego tak naprawdę zignorować.

Katie Drummond: Nie możesz tego zignorować, ale jest to wybór, aby w niej oprzeć się w swoim osobistym czasie, powiem.

Michael Calore: Powiedziałbym, że jeśli zamierzasz wykonać to ćwiczenie, jest mniej osób, z którymi jest to bardziej zachwycające niż Peter Sellers i George C. Scott oraz Sterling Hayden i Stanley Kubrick. To świetny film, więc strumień go dziś wieczorem.

Katie Drummond: połączymy się z nim w notatkach.

Michael Calore: Dzięki za wysłuchanie Uncanny Valley . Jeśli podobało Ci się to, co usłyszałeś dzisiaj, pamiętaj, aby śledzić nasz program i ocenić go w wybranej aplikacji podcastu. Jeśli chcesz się z nami skontaktować z jakymi pytaniami, komentarzami lub sugestiami, napisz do nas pod adresem [email protected] . Dzisiejszy program wyprodukował Kyana Moghadam i Adriana Tapia. Amar Lal w Macrosound wymieszał w tym odcinku. Jake Lummus był naszym inżynierem w Nowym Jorku. Daniel Roman sprawdził ten odcinek. Jordan Bell jest naszym producentem wykonawczym. Katie Drummond jest globalnym dyrektorem redakcyjnym, a Chris Bannon jest szefem globalnego dźwięku.