Пентагон принял этические принципы использования искусственного интеллекта
В Министерстве обороны США придумали и решили исполнять этические принципы принципы использования в государстве военных систем искусственного интеллекта. Утверждают, что основывались на Конституции США, десятой главе Кодекса США, где описана роль армии, законами и обычаями, а еще международными договорами и "устоявшимися нормами и ценностями". На сайте Пентагона пять принципов применения ИИ для военных задач.
- Ответственность. Внимательно оценивать действия ИИ, отвечать за его разработку, развертывание и использование.
- Беспристрастность. Минимизировать нежелательные отклонения в возможностях систем ИИ.
- Прослеживаемость. Военные системы ИИ и их возможности следует разрабатывать и развертывать так, чтобы персонал понимал технологию, процесс разработки и использования. Военным должны быть доступны методологии, данные и документация по системам ИИ, которые они используют.
- Надежность. Возможности военного ИИ должны быть однозначными, четко сформулированными. Безопасность и эффективность этих возможностей следует проверять испытаниями и подтверждать на протяжении работы.
- Подчинение. Военные системы ИИ должны выполнять задачи, у военных должна быть возможность увидеть и предотвратить нежелательные последствия. Должна быть возможность отключить ИИ, если заметят отклонения.
Пентагон поставил Объединенный центр искусственного интеллекта ответственным за исполнение принципов. На их создание потратили 15 месяцев, однако ряд экспертов формулировки расплывчатыми и заявили об отсутствии четкого свода запретов и указаний военным.
Напомним, последствия работы ИИ входят в топ-10 проблем, которые ожидают человечество, по прогнозам футурологов. Тем временем в Китае идет эксперимент по тотальному контролю за населением с помощью камер наблюдения и искусственного интеллекта. Это натолкнуло обитателей соцсетей на мысль, что мир превратится в электронный концлагерь. Так ли это - "КП" обсудила с доктором юридических наук Владимиром Овчинским. Он издал книги по этой теме, проанализировал опыт КНР непосредственно в Поднебесной.
ЧИТАЙТЕ ТАКЖЕ
Учителей не хватает по всему миру, и компьютеры их не заменят
Разработчики смогли представить новейшие программы и сервисы в помощь учащимся и преподавателям, а педагоги рассказали о своем собственном опыте использования технологий.
