Илон Маск, Стив Возняк (один из основателей Apple) и несколько сотен других экспертов в IT-сфере подписали открытое письмо, призывая поставить на паузу развитие глубокого (сильного) искусственного интеллекта (AI). Письмо опубликовано на сайте некоммерческой организация Future of Life.
Эксперты призывают все AI-лаборатории как минимум на полгода не проводить обучение нейросетей, более мощных, чем GPT-4. Авторы письма опасаются, что AI может представлять «серьезные риски для общества и человечества». Даже сами создатели ИИ точно не знают, как работают их системы, а сами нейросети начинают конкурировать с человеком.
— Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски — управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать по мере увеличения масштабов потенциальных последствий системы, — говорится в письме.
Любопытно, что исполнительный директор OpenAI (компании, создавшей GPT-4) Сэм Альтман не стал подписывать письмо.
Эксперты призывают все AI-лаборатории как минимум на полгода не проводить обучение нейросетей, более мощных, чем GPT-4. Авторы письма опасаются, что AI может представлять «серьезные риски для общества и человечества». Даже сами создатели ИИ точно не знают, как работают их системы, а сами нейросети начинают конкурировать с человеком.
— Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски — управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать по мере увеличения масштабов потенциальных последствий системы, — говорится в письме.
Любопытно, что исполнительный директор OpenAI (компании, создавшей GPT-4) Сэм Альтман не стал подписывать письмо.
