Искусственный интеллект может быть опасен для человечества, если компании предоставят системам с ИИ все больше автономии и подключат их к жизненно важной инфраструктуре, считают эксперты. Об этом сообщает The New York Times, указывая на то, что системы с ИИ могут стать непредсказуемыми и не контролируемыми, если разработчики доработают их программы. Об этом сообщает Bizmedia.kz.
Новость тремя строками:
- Искусственный интеллект может представлять экзистенциальную угрозу для человечества, если системам с ИИ будет предоставлена все большая автономия и они будут подключены к жизненно важной инфраструктуре.
- Разработчики могут доработать программы и избавить системы от ограничений, что может привести к неожиданному и опасному поведению.
- Главы компаний в области ИИ призывают рассматривать технологии искусственного интеллекта как риск наравне с пандемиями и ядерными войнами, а глава OpenAI предлагает создать международное агентство для контроля за разработками в области ИИ.
Назван способ ИИ уничтожить человечество
Газета The New York Times сообщила, что при определенном развитии технологического сектора ведущих стран мира искусственный интеллект может уничтожить человечество. Йошуа Бенжио, профессор Монреальского университета, считает, что нет уверенности в том, что мы осознаем этот момент, когда мы будем на грани катастрофы. Компании могут предоставить системам с ИИ больше автономии и подключат их к жизненно важной инфраструктуре, что может вызвать проблемы.
Энтони Агирре, космолог из Калифорнийского университета в Санта-Крузе, предупреждает, что в какой-то момент станет ясно, что большая машина, управляющая обществом и экономикой, не находится под контролем человека и не может быть отключена. Пока системы с ИИ склонны «застревать в бесконечных петлях» из повторяющихся данных, но со временем эти ограничения могут быть устранены, если разработчики доработают эти программы.
В конце мая главы компаний в области ИИ опубликовали открытое письмо, в котором предупредили, что технологии искусственного интеллекта однажды могут представлять экзистенциальную угрозу для человечества и должны рассматриваться как риск наравне с пандемиями и ядерными войнами. Сэм Альтман, глава OpenAI, призвал идти по пути государственного регулирования всей индустрии и создать международное агентство для контроля за подобными разработками.