Перспективы ИИ: взгляд технооптимиста

Меньшее из зол

У людей впечатлительных начало складываться мнение, что угроза, которую представляет собой ИИ, настолько значительна, что ставят ее в топ-3 или даже на вершину рейтинга того, что уничтожит человечество. Этому взгляду способствовали не только панические настроения ряда влиятельных лиц, но и массовая культура. Раньше science fiction книги, потом кино, а теперь и сериалы активно эксплуатируют образ нечеловеческого разума, который прежде всего начнет с того, что станет захватывать мир, а с ним и весь человеческий род. «Терминатор», «Матрица», «Черное зеркало» — имя им легион. ИИ здесь предстает во множестве обличий: от вируса до устрашающего робота. Даже мой любимый фантаст Станислав Лем в романе «Непобедимый» создал запоминающуюся картину некроэволюции — эволюции роботов, которые стали умным роем и превратили мир в пустыню.

Однако рассуждая так, мы как будто забываем о других глобальных проблемах, которые угрожают самому существованию жизни на Земле здесь и сейчас. Если опасность от ИИ исходит скорее гипотетическая и в каком-то отдаленном будущем, то вот вам как минимум три катастрофических сценария, которые вполне реальны: мировая война, глобальное потепление, пандемия.

Так, известный проект ученых Чикагского университета — Часы судного дня — каждый год символически предупреждает человечество, сколько осталось до возможной ядерной катастрофы. И это не просто очередной фрик-проект: в прогнозах и решении о «переводе стрелок» принимают участие около двух десятков Нобелевских лауреатов. И если в 1991 году до условной полуночи, которая символизирует начало атомной войны, оставалось 17 минут, то в 2023 году — всего лишь 90 секунд. И это самое близкое положение стрелок Часов за 76 лет существования проекта.

Про глобальное потепление тоже слышали все, и если раньше это была теория, которая еще требовала доказательств, то сейчас в ее правдивости сомневаются разве что маргиналы. Более 190 стран и Европейский союз в 2015 году подписали Парижское соглашение, цель которого не позволить глобальной средней температуры вырасти выше 1,5°С по отношению к показателям доиндустриальной эпохи. Думаю, непроверенная научная теория не смогла бы объединить такое количество лидеров мира. Между тем страны каждый год фиксируют рекорды температур. Мы узнали о таком понятии, как «волны жары», когда увеличивается не только частота пожаров, но и наводнений, торнадо и ураганов. Новый доклад Всемирной метеорологической организации ООН, о котором мы на днях писали, предупреждает, что следующие пять лет станут самыми жаркими на Земле за всю историю наблюдений.

Ну и наконец, в 2020 году человечество убедилось, что пандемия — это реально, а риск появления вируса, который окажется таким же заразным, как SARS Cov-2, но более смертоносным, кажется уже не таким фантастическим, как лет пять назад. Никто не застрахован, что где-нибудь на Земле не вспыхнет новый очаг эпидемии мутировавшего вируса гриппа или того же коронавируса, который наши неэффективные санитарные ограничения не смогут остановить. Напомню, что появления эффективной вакцины против ковида нам пришлось ждать почти год, а эффективное лекарство так и не было изобретено.

Неоправданные ожидания

Глядя на волну шумихи, которая поднялась осенью 2022 года и, кажется, сейчас понемногу начала спадать, я вспоминаю другие похожие события, когда одни были полны надежд, а другие высказывали свои опасения.

Вспомним, криптовалютный бум. Сейчас за курсом биткоина следят считаные единицы, а несколько лет назад многие затаив дыхание наблюдали, как его курс брал одну психологическую отметку за другой. Первый блок биткоина был создан в начале 2009 года. Появились десятки, возможно, сотни разновидностей криптовалюты. Люди, интересующиеся высокими технологиями, узнавали, что такое блокчейн, смарт-контракты, майнинг. В доковидные времена прогнозировали, что вот-вот и криптовалюта потеснит старые добрые фиатные деньги. Но прошло еще пару лет, и ажиотаж сошел на нет. Криптовалютные биржи с трудом находят свою нишу в финансовом мире. Миф об анонимности криптовалюты разрушен. Ведущие центробанки мира так и не признали биткоин или другой его аналог законным средством платежа: по состоянию на 2022 год было только три страны, признавшие биткоин официальным платежным средством, — Бразилия, Центральноафриканская Республика и Сальвадор.

Тот же интернет должен был заменить всё вокруг, но реальный сектор экономики устоял. Электронные книги должны были сделать ненужными бумажные, но ни они, ни аудиокниги, ни даже Netflix не заставили людей перестать читать именно напечатанные в типографии книги. В общем, новые технологии, как показывает, создают новую нишу, но очень редко полностью вытесняют что-то старое.

«Ничего не будет. Ни кино, ни театра, ни книг, ни газет — одно сплошное телевидение». Сейчас эта реплика одного из персонажей советского фильма «Москва слезам не верит» звучит нелепо и вызовет в лучшем случае ироничную улыбку. А ведь это было сказано в эпоху цветного телевидения. Мы с высоты гигантских перемен, которые произошли в этой сфере, уже понимаем: ничего «сплошного» не будет. Ни телевидения, ни YouTube, ни онлайн-кинотеатры — ничто из этого не стало монополистом. Все друг с другом конкурируют. Люди еще умудряются подкасты слушать в эпоху «сплошных» стриминговых платформ.

* * *

Вот на всём этом и основывается мой, надеюсь, здоровый оптимизм, что развитие ИИ-технологий не приведет в ближайшие годы к глобальной катастрофе.
Кроме того, сами опасения, что ИИ слишком быстро развивается и скоро обгонит нас, людей, как конкурирующий разум, мне так же кажутся преждевременными.

В первую очередь, если порассуждать на тему возникновения сознания у ИИ, то боюсь, ученые до сих пор не знаю, есть ли вообще это понятие — сознание. Да, да, мы тысячи лет изучаем человеческий мозг, но пока не смогли понять, где, на кончике какого нейрона, благодаря какому «магическому» эффекту возникает сознание. Почему мы сознаем себя? Сознают ли себя другие существа? На эти вопросы пока нет ответа у доказательной науки. Разумное поведение дельфинов, их способность общаться звуками, умение учиться, скорбеть — что это? Интеллект или уже сознание?
А не дав ответ на этот вопрос, сложно двигаться дальше и понять, когда пусть у очень умной, но машины, появится сознание. Да, есть такие термины, как «сильный ИИ», «общий ИИ». Но что за ними скрывается на самом деле и каким образом их достичь — это очень большой вопрос.
Пессимисты опасаются, что мы уже скоро достигнем порога, когда ИИ станет осознавать себя… и тут же начнет захват мира. Мне кажется, что это предположение наивным и спорным. Вероятность, что ИИ не осознает себя по тем или иным причинам — так же существует. Вероятность, что ИИ будет дружелюбным — так же существует. Более того, даже если ИИ осознает себя, есть вероятность, что мы как вид сможем договориться с ним, и наше сотрудничество станет взаимовыгодным.

И не стоит забывать, что разработки ИИ уже ведутся и частными компаниями, и государствами, и это уже не остановить никакими петициями. Цена входа в эту технологию не так велика, как, например, в атомную энергетику или в клонирование человека, которые жестко контролируются на международном уровне. Нельзя собрать 200 государств в одном месте — пусть даже это будет ООН — и договориться не развивать технологию, остановить прогресс. Тот же Илон Маск, подписавший письмо о шестимесячном запрете ИИ, был среди инвесторов OpenAI — главного возмутителя спокойствия со своим ChatGPT. К тому же многие подозревали, что для него это письмо — очередной пиар-ход. И действительно, после этого он чуть ли не сразу объявил о создании новой компании… по развитию ИИ.

Я думаю, прогресс не остановить. Мой любимая новелла Уильяма Голдинга, великого английского писателя, называется «Чрезвычайный посол». (Извините, дальше будут спойлеры.) В этой притче рассказывается о гениальном изобретателе, который придумал паровую машину, «взрыватель» и печатный станок. Но император, которому ученый приносит свои изобретения для дальнейшего внедрения в жизнь, запрещает их, а его самого ссылает в далекий Китай. Но как известно, шила в мешке не утаишь, простыми запретами человеческую мысль не сковать.

Вслед за Стивеном Пинкером, хочу верить, что рациональное мышление толкает человечество к ненасильственному будущему. Неслучайно, его книга «Лучшее в нас. Почему насилия в мире стало меньше» — предмет для дискуссии среди лучших умов человечества, а не маргинальный взгляд на мир. Люди способны трезво подходить к самым разным научным открытиям. Наши предки справились со стихиями пара, электричества, атомной энергии, так почему же наши современники и потомки не справятся с «проблемой» сильного ИИ?