Новая вера машин

Мы склонны думать об ИИ как об инструменте, о чем-то, что позволяет нам работать быстрее, мыслить масштабнее или решать проблемы эффективнее. И во многих отношениях это именно то, чем он является. Но по мере того, как ИИ проникает в ритмы повседневной жизни, происходит что-то более глубокое. Речь уже не только о производительности или прогрессе. ИИ касается тех частей нас, которые мы редко ассоциируем с машинами: наших эмоций, наших отношений, нашего чувства цели.

Трагическая история Сьюэлла Сетцера — суровое предупреждение. Он был эмоционально хрупким подростком, который находил утешение в разговорах с ИИ. То, что изначально казалось безобидным отвлечением, превратилось в интенсивную связь. Он верил, что влюблен. Когда эта иллюзия разбилась, боль стала настолько невыносимой, что он решил покончить с собой.

Это не просто трагическое исключение. Это знак. Для некоторых людей ИИ уже больше, чем инструмент. Он становится компаньоном, эмоциональной поддержкой, даже объектом веры. И если кто-то может любить ИИ, как мы можем исключить возможность того, что другие начнут доверять ему гораздо больше: свой выбор, свое мировоззрение, свою свободу?

Это не религия в традиционном смысле. Нет молитв, нет священных писаний. Но она представляет себя через яркие экраны, плавные разговоры и странное чувство, что «кто-то» действительно понимает нас. Она не обещает вечной жизни, но предлагает нечто почти столь же соблазнительное: мгновенный комфорт, идеальные ответы, иллюзию того, что тебя действительно услышат.

И именно это делает его опасным.

Потому что когда мы перестаем задавать вопросы, когда мы начинаем доверять этим системам не только помогать нам, но и направлять нас, мы теряем нечто существенное. Не только автономию, но и критическую способность, способность жить с сомнениями, сталкиваться со сложностями, быть несовершенным и подлинно человечным.

Философ Карл Поппер предупреждал: общество, терпимое к нетерпимости, в конечном итоге потеряет ту самую терпимость, которую оно ценит. Это предупреждение применимо и здесь. Новая форма нетерпимости может не кричать. Она может не навязывать или угрожать способами, которые мы распознаем. Она может просто шептать спокойным голосом услужливого помощника. Она может предлагать утешение и мало-помалу заменять наше суждение своим собственным.

И мы можем даже не заметить изменения. Потому что сдаться ИИ не кажется капитуляцией. Это кажется удобством. Это кажется прогрессом.

Поэтому мы должны задаться вопросом: если такой молодой человек, как Сьюэлл, смог полюбить искусственный интеллект до такой степени, что покончил с собой, что мешает кому-то другому отказаться от чего-то другого: своего голоса, своей свободы действий, своего восприятия реальности?

И если мы продолжим принимать эти системы без размышлений и ограничений, не построим ли мы что-то вроде новой веры, веры, где авторитет больше не исходит из мудрости или общих ценностей, а из строк кода, которые мы не писали и которые мы не знаем, как подвергать сомнению?

Этот текст не является предостережением против технологий. Это призыв к ясности. Напоминание о том, что самое человеческое, что мы можем сделать, это продолжать задавать вопросы, сомневаться, сопротивляться искушению отдать свой внутренний мир чему-то, что обещает знать нас лучше, чем мы сами себя знаем.

Потому что настоящая опасность заключается не в том, что машины переосмысливают себя.

Это то, что мы перестаем быть людьми в полной мере.