Илон Маск, Юваль Ной Харари и другие призвали приостановить разработку искусственного интеллекта
Глава SpaceX Илон Маск, сооснователь Apple Стив Возняк, ученый Юваль Ной Харари и больше тысячи экспертов призвали приостановить разработку продвинутого искусственного интеллекта. Текст письма опубликовал Институт будущего жизни (Future of Life Institute), сообщило агентство Reuters.
Подписанты открытого письма призвали разработчиков искусственного интеллекта на полгода приостановить обучение систем более мощных, чем GPT-4 от OpenAI. Пауза нужна, чтобы разработать общие протоколы безопасности. Если обучение не получится остановить быстро, то политики должны вмешаться и ввести мораторий.
- Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? - сказано в письме.
Исполнительный директор OpenAI Сэм Альтман не стал подписывать письмо. Однако среди подписантов есть генеральный директор Stability AI Эмад Мостак, исследователи DeepMind Йошуа Бенжио и Стюарт Рассел. Также среди известных подписантов есть соучредитель Skype Яан Таллинн и соучредитель Pinterest Эван Шарп.
В середине марта американская компания OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы искусственного интеллекта GPT (Generative Pre-trained Transformer). А авторы нейросети Midjourney представили V5 - пятую версию алгоритма, позволяющего создавать крайне реалистичные изображения по текстовому запросу. После этого в соцсетях разошлась созданная с помощью алгоритма фотография Папы Римского в пуховике. Франциск призвал к этичному использованию искусственного интеллекта.
