Проблема Искусственного Интеллекта (ИИ), уже почти готового заменять человека в разных областях, в том числе критических, сегодня захватила повестку дня:
Заявления В.Путина на конференции Сбера «Путешествие в мир искусственного интеллекта» (AI Journey 2023):
С внедрением искусственного интеллекта человечество начинает новую главу своего существования.
Россия должна стать одной из самых комфортных юрисдикций в мире для развития ИИ.
В ближайшее время будет подписан указ об утверждении новой редакции национальной стратегии развития ИИ.
Запретить развитие ИИ невозможно; если будем запрещать — отстанем.
Скандал в OpenAI. Тем временем выяснились причины попытки переворота в главной ИИ-компании мира OpenAI. Разработчики нового ИИ заявили Совету директоров, что их открытие может «угрожать человечеству» (сообщило Reuters со ссылкой на источники). В руководстве переживали о быстром развитии продуктов компании Сэмом Альтманом без оглядки на безопасность и сокрытии им соответствующей информации (через 5 дней уволенного Альтмана вернули в кампанию и уволили уже его противников).
Проект Q* (произносится как Q-Star) радикально отличается от GPT. Системы Q* на основе «общего искусственного интеллекта» (AGI), решают задачи полностью самостоятельно, оценивают обстановку, учатся и понимают опыт сделанных ошибок, подобно человеку (а GPT опираются на статистические закономерности). Q* — автономная система, которая «превосходит людей в большинстве экономически ценных задач». Пока модель смогла решить лишь некоторые математические задачи на уровне учеников начальной школы, но это огромный прорыв по сравнению с GPT. Математика подразумевает единственно правильный ответ, тогда ответы известного бота ChatGPT на один и тот же вопрос могут сильно различаться.
ИИ в войне. Мир прямо сейчас подошел к порогу невозврата в вопросе использования ИИ в войне. «Это действительно один из наиболее важных переломных моментов для человечества»
Пентагон заканчивает работу над разворачиванием роя из тысячи дронов, управляемых искусственным интеллектом и движется к тому, чтобы позволить ИИ-оружию самостоятельно принимать решения об уничтожении людей, что позволят США компенсировать численное преимущество Народно-освободительной армии Китая в оружии и людях (зам. министра обороны США Кэтлин Хикс).
Несколько правительств лоббируют в ООН принятие обязательной резолюции, ограничивающей использование дронов-убийц с искусственным интеллектом, но США входят в группу стран, в которую также входят Россия, Австралия и Израиль, которые сопротивляются любому такому шагу, предпочитая необязывающую резолюцию.
