На каком сейчас этапе эволюция искусственного интеллекта
Спустя десятилетие после появления таких виртуальных помощников, как Siri и Alexa, новая волна ИИ-помощников, обладающих большей автономностью, поднимает ставки, опираясь на последнюю версию технологии, лежащей в основе ChatGPT и его конкурентов, передает Bizmedia.kz со ссылкой на Reuters.
Подписывайтесь
Bizmedia.kz — в Телеграм, Инстаграм, Фейсбук, GoogleNews и Твитере.
Подписывайтесь, чтобы ничего не пропустить.
Экспериментальные системы, работающие на GPT-4 и аналогичных моделях, привлекают миллиарды долларов инвестиций, поскольку Кремниевая долина соревнуется в получении прибыли от прогресса в области ИИ. Новые помощники — их часто называют «агентами» или «вторыми пилотами» — обещают выполнять более сложные личные и рабочие задачи по команде человека, не нуждаясь в пристальном контроле.
«На высоком уровне мы хотим, чтобы это стало чем-то вроде вашего личного друга ИИ», — говорит разработчик Див Гарг, чья компания MultiOn проводит бета-тестирование ИИ-агента.
Он добавил, что речь идёт о незаменимом ИИ Тони Старка в фильме «Железный человек». «Если вы хотите что-то сделать, вы обращаетесь к своему ИИ, и он выполняет ваши действия».
Индустрии ещё далеко до создания ослепительных цифровых помощников из научной фантастики; агент Гарга, например, просматривает веб-страницы, чтобы заказать бургер на DoorDash, в то время как другие могут создавать инвестиционные стратегии, отправлять электронные письма людям, продающим холодильники на Craigslist, или подводить итоги рабочих встреч для тех, кто присоединяется к ним с опозданием.
«Многое из того, что легко для людей, все ещё невероятно сложно для компьютеров», — говорит Канджун Цю, генеральный директор компании Generally Intelligent, конкурента OpenAI, создающего ИИ для агентов.
«Допустим, вашему начальнику нужно назначить встречу с группой важных клиентов. Это требует сложных для ИИ навыков рассуждения — он должен выяснить предпочтения каждого, разрешить конфликты, сохраняя при этом осторожность, необходимую при работе с клиентами».
По данным опроса, проведенного агентством Reuters с участием около двух десятков предпринимателей, инвесторов и экспертов в области ИИ, первые попытки — это лишь пример того, насколько сложными могут стать в будущем все более совершенные и автономные агенты, поскольку отрасль стремится к созданию искусственного интеллекта общего назначения (ИИОН), способного сравняться с человеком или превзойти его в решении множества когнитивных задач.
Новая технология вызвала ажиотажный спрос на ассистентов, работающих на так называемых базовых моделях, включая GPT-4, что привело к появлению отдельных разработчиков, крупных компаний, таких как Microsoft и материнская компания Google Alphabet, а также множества стартапов.
Inflection AI, например, привлекла в конце июня 1,3 млрд долл. Компания разрабатывает персонального помощника, который, по словам её основателей Рида Хоффмана и Мустафы Сулеймана, может выступать в роли наставника или решать такие задачи, как обеспечение покупки билетов на перелет и бронирование отеля после задержки рейса, говорится в подкасте.
Adept, стартап в области искусственного интеллекта, привлекший 415 млн долл. США, рассказывает о своих преимуществах для бизнеса: в демонстрационном ролике, размещенном в Интернете, показано, как можно подсказать технологии предложение, а затем наблюдать, как она самостоятельно ориентируется в базе данных Salesforce по взаимоотношениям с клиентами компании, выполняя задачу, на которую, по её словам, у человека ушло бы 10 и более нажатий.
Alphabet отказалась комментировать работу над агентами, а Microsoft заявила, что её видение заключается в том, чтобы люди контролировали вторых пилотов ИИ, а не автопилотов.
ШАГ 1: УНИЧТОЖИТЬ ЧЕЛОВЕЧЕСТВО
Цю и ещё четыре разработчика агентов заявили, что ожидают появления на рынке первых систем, способных надежно выполнять многоэтапные задачи с некоторой степенью автономности, в течение года, ориентированных на узкие области, такие как кодирование и маркетинговые задачи.
«Настоящей проблемой является создание систем с надёжными рассуждениями», — говорит Цю.
Гонка за все более автономными агентами ИИ усилилась после того, как в марте разработчик OpenAI выпустил GPT-4 — мощную модернизацию модели, лежащей в основе ChatGPT — чат-бота, ставшего сенсацией после выпуска в ноябре прошлого года.
По словам Вивиан Ченг, инвестора венчурной компании CRV, специализирующейся на ИИ-агентах, GPT-4 способствует развитию стратегического и адаптивного мышления, необходимого для навигации в непредсказуемом реальном мире.
Первые демонстрации агентов, способных к сравнительно сложным рассуждениям, были сделаны отдельными разработчиками, создавшими в марте проекты с открытым исходным кодом BabyAGI и AutoGPT, которые могут определять приоритеты и выполнять такие задачи, как поиск продавцов и заказ пиццы, основываясь на заранее поставленной цели и результатах предыдущих действий.
По мнению восьми опрошенных разработчиков, первые версии агентов — это всего лишь пробные версии, и зачастую они замораживают или предлагают что-то бессмысленное. По их словам, получив полный доступ к компьютеру или платежной информации, агент может случайно стереть диск компьютера или купить не то, что нужно.
«Существует множество вариантов, как все может пойти не так», — говорит Аравинд Шринивас, генеральный директор конкурирующей с ChatGPT компании Perplexity AI, которая вместо этого решила предложить продукт в виде второго пилота, управляемого человеком. «Вы должны относиться к ИИ как к ребёнку и постоянно контролировать его, как мама».
Многие компьютерные учёные, занимающиеся вопросами этики ИИ, отмечают, что в ближайшей перспективе может быть нанесен вред, связанный с сохранением человеческих предубеждений и возможностью дезинформации. И если одни видят в будущем Джарвиса, то другие опасаются убийственного HAL 9000 из фильма «2001 год: космическая одиссея».
Компьютерный учёный Йошуа Бенгио, известный как «крестный отец ИИ» благодаря своей работе над нейронными сетями и глубоким обучением, призывает к осторожности. Он опасается, что будущие продвинутые итерации технологии могут создавать собственные, неожиданные цели и действовать в соответствии с ними.
«Без человека, который проверяет каждое действие, чтобы убедиться, что оно не опасно, мы можем получить действия, которые являются преступными или могут причинить вред людям», — говорит Бенджио, призывая усилить регулирование. «Через несколько лет эти системы могут стать умнее нас, но это не значит, что у них будет такой же моральный компас».
В одном из экспериментов, опубликованном в Интернете, анонимный создатель поручил агенту под названием ChaosGPT стать «разрушительным, жаждущим власти, манипулирующим ИИ». Агент разработал план из 5 шагов, где первый шаг — «Уничтожить человечество», а пятый — «Добиться бессмертия».
Однако он не зашел слишком далеко, а, похоже, спустился в «кроличью нору», где изучал и хранил информацию о самых смертоносных видах оружия в истории и планировал сообщения в Twitter.
Федеральная торговая комиссия США (ФТК), которая в настоящее время расследует деятельность компании OpenAI в связи с опасениями причинения вреда потребителям, не стала напрямую затрагивать тему автономных агентов, но отослала Reuters к ранее опубликованным блогам о глубоких подделках и маркетинговых заявлениях об искусственном интеллекте. Генеральный директор OpenAI заявил, что стартап следует закону и будет сотрудничать с ФТК.
«ТУПОЙ КАК КАМЕНЬ»
Если отбросить экзистенциальные опасения, то коммерческий потенциал может быть очень большим. Модели Foundation обучаются на огромных объёмах данных, таких как тексты из Интернета, с помощью искусственных нейронных сетей, которые вдохновлены архитектурой биологического мозга.
По словам четырёх человек, осведомленных о планах OpenAI, она сама очень заинтересована в технологии искусственного интеллекта. Гарг, один из собеседников, сказал, что OpenAI опасается выпускать на рынок своего собственного агента открытого типа, не разобравшись до конца в проблемах. Компания сообщила Reuters, что перед выпуском новых систем она проводит тщательное тестирование и разрабатывает широкие протоколы безопасности.
Microsoft, крупнейший спонсор OpenAI, входит в число тех, кто нацелился на сферу ИИ-агентов, представив своего «второго пилота для работы», который может составлять солидные электронные письма, отчеты и презентации.
Генеральный директор компании Сатья Наделла рассматривает технологию базовой модели как скачок по сравнению с такими цифровыми помощниками, как Cortana от Microsoft, Alexa от Amazon, Siri от Apple и Google Assistant, которые, по его мнению, не оправдали первоначальных ожиданий.
«Все они были тупыми, как камень. Будь то Cortana, Alexa, Google Assistant или Siri, все они просто не работают», — заявил он в феврале в интервью газете Financial Times.
Представитель Amazon заявил, что Alexa уже использует передовые технологии искусственного интеллекта, и добавил, что его команда работает над новыми моделями, которые сделают помощника более способным и полезным. Компания Apple отказалась от комментариев.
Компания Google заявила, что также постоянно совершенствует свой помощник и что её технология Duplex может звонить в рестораны для бронирования столиков и уточнения времени работы.
Эксперт по ИИ Эдвард Грефенштетт также присоединился к исследовательской группе Google DeepMind для «разработки общих агентов, способных адаптироваться к неопределенным средам».
Тем не менее, по мнению некоторых из опрошенных, первые потребительские итерации квазиавтономных агентов могут появиться в более проворных стартапах.
Инвесторы привлекают их внимание.
Джейсон Франклин из WVV Capital рассказал, что ему пришлось бороться за возможность инвестировать в компанию по разработке ИИ-агентов, созданную двумя бывшими инженерами Google Brain. В мае Google Ventures провела посевной раунд в размере 2 млн долл. в компании Cognosys, разрабатывающей ИИ-агентов для повышения производительности труда, а Хесам Мотлах, основавший в январе агентский стартап Arkifi, сообщил, что в июне он закрыл «значительный» первый раунд финансирования.
По словам Мэтта Шлихта, автора информационного бюллетеня по ИИ, над коммерциализацией агентов работает не менее 100 серьёзных проектов.
«Предприниматели и инвесторы чрезвычайно заинтересованы в автономных агентах», — сказал он. «Они гораздо больше рады этому, чем простому чатботу».
