Алгоритмическая война: Новая оперативная группа Пентагона изучает генеративный ИИ

Министерство обороны США создало новую целевую группу для изучения возможности использования генеративного искусственного интеллекта, такого как большие языковые модели, для военных миссий.

Созданная 10 августа заместителем министра обороны Кэтлин Хикс через Главное управление цифрового и искусственного интеллекта Министерства обороны, Целевая группа Лима “будет разрабатывать, оценивать, рекомендовать и контролировать внедрение возможностей генеративного ИИ во всем Министерстве обороны, чтобы убедиться, что министерство готово принять технологии генеративного ИИ и надлежащим образом защитить их”, – говорится в информационном бюллетене.

Министерство обороны занимается исследованием и разработкой систем ИИ “десятилетиями,” морской капитан Мануэль Хавьер Луго, командир оперативной группы Лима, рассказала в интервью. “Однако генеративный ИИ”, как видно из общедоступных моделей больших языков, таких как ChatGPT и Bard, был представлен миру “очень быстро … и он немного отличается от традиционного искусственного интеллекта”. Целевая группа была создана для того, чтобы помочь сосредоточить исследования Министерства обороны в области генеративного ИИ и “руководить всеми отдельными исследованиями, которые проводятся с использованием этой технологии во всем департаменте”, добавил он.

Целевая группа Lima получила более 160 вариантов использования генеративного ИИ со всего департамента, большинство из которых сосредоточены вокруг наборов административных задач, таких как “обобщение информации, логистика, планирование ролей — вот эти типы проблем”, – сказал Луго. “В некоторых случаях у вас есть чистые листы, и намного проще работать с первым черновиком, который создается инструментом за считанные секунды. … Другая утилита также способна привязывать технологию к огромным объемам данных и обобщать их в абзацы или просто страницы, что отняло бы у аналитиков или специалистов много времени. Мы можем сделать это за считанные секунды, и мы можем довольно быстро повторить эти ответы ”.

Одним из потенциальных недостатков генеративного ИИ являются “галлюцинации”, когда большие языковые модели, по сути, что-то выдумывают. Хотя галлюцинации не являются препятствием в каждом случае использования, “когда мы начинаем использовать [генеративный ИИ] в более точных [типах] рабочих процессов — таких, например, как планирование, — нам действительно нужен определенный уровень доверия к результатам технологии”, – сказал Луго.

Целевая группа призывает промышленность помочь департаменту с процедурами, технологиями или концепциями системы из систем, чтобы уменьшить галлюцинации, и разрабатывает рекомендации и инструменты, такие как “тестовые и оценочные жгуты, которые могут быть подключены к рабочим процессам и к самим моделям, чтобы дать нам информацию о качестве показателей и … качестве выходных данных конкретной модели”, – сказал он.

Оперативная группа Lima, в которой, по словам Луго, насчитывается более 400 сотрудников, была зафрахтована на 18 месяцев и, по его словам, имеет ряд результатов. Целевая группа написала временное руководство, которое в настоящее время проходит укомплектование персоналом, “чтобы предоставить министерству обороны левые и правые ограничения относительно того, как использовать эту технологию”, – сказал он.

Целевая группа также анализирует варианты использования генеративного ИИ, “чтобы мы могли сгруппировать их и для того, чтобы мы могли найти фактические области применения технологии, чтобы мы могли двигаться вперед, а затем начать писать конкретные рамки и ограждения для этих конкретных областей применения”, – сказал он.

Как только модели станут достаточно зрелыми для использования, целевая группа соберет данные для оценки производительности моделей и “разработает основы для измерения этой производительности, чтобы ее можно было применять глобально к моделям, рабочим процессам и объединению человека и машины”, – сказал он.

Другие направления усилий включают в себя изучение того, как модели представляют риски для безопасности, а также как обеспечить ответственный ИИ во всей технологии, добавил он.

Целевая группа Lima “находится на пути” к выполнению всех своих задач в 18—месячный срок, однако “это не означает, что вся работа будет завершена в [конце] 18 месяцев”, – сказал Луго.

Частью устава целевой группы является определение того, кому передать часть работы, и “разработка стратегии Министерства обороны по внедрению генеративного ИИ во всем департаменте”, – сказал он.

По словам Луго, ключевым фактором того, во сколько департамент в конечном итоге примет генеративный ИИ, будет стоимость.

“Эта технология чрезвычайно дорогая, и есть много предположений, что мы можем просто подключить ее к нашим системам и играть с ней”, потому что такие модели, как ChatGPT и Bard, доступны онлайн бесплатно, сказал он. “Что теряется во всем этом, так это … инвестиции в вычисления для выполнения этих выводов. Если мы хотим иметь нашу собственную модель, это сопряжено с большими расходами, и с этим связаны большие затраты на экспертизу.

“Итак, я думаю, что это будет самой большой проблемой для департамента … какова фактическая отдача от инвестиций, которую мы собираемся получить за эту технологию?” сказал он.

“Прямо сейчас все в восторге от того, что говорят: ‘Вау, это супер круто ’. И тогда они получат sticker shock, и этот sticker shock – это то, что, вероятно, выведет технологию на более практичный уровень ”.

Источник