Новая разработка Palantir называется Artificial Intelligence Platform for Defence (AIP) и представляет собой платформу искусственного интеллекта, базирующуюся на больших языковых моделях (LLM), аналогичных Chat GPT, но работающих в защищенной IT-инфраструктуре.
В одном из своих презентационных видеороликов Palantir демонстрирует использование AIP в смоделированном ИИ военном конфликте. На видео оператор общается с чат-ботом, заказывает дроны для аэроразведки, формирует несколько планов атаки и организовывает глушение средств связи противника.
Оператор использует AIP для создания трех возможных вариантов поражения целей. При этом приказы участвующим в бою подразделениям и боевой технике отдаются в автоматическом режиме. Варианты, предложенные ИИ, включают атаку танка многофункциональным истребителем F-16, дальнобойной артиллерией или переносным противотанковым ракетным комплексом Javelin. На видео ИИ даже сообщает всем участникам боя, достаточно ли у ближайших подразделений комплексов Javelin для выполнения миссии.
Несмотря на то, что в демонстрации работы AIP присутствует оператор, его участие в принятии решений минимально. Он лишь запрашивает у чат-бота варианты действий и подтверждает их.
Учитывая специфику компании Palantir, то, что именно они первыми предложили использовать искусственный интеллект для решения тактических военных задач, то есть для непосредственного участия в бою, удивления не вызывает.
Программное обеспечение Palantir предназначено для анализа, интеграции и визуализации больших объемов данных в различных отраслях, таких как финансы, здравоохранение, госсектор. Клиентами компании в разные годы являлись Разведывательное сообщество США, Министерство обороны США, Командование специальных операций, Корпус морской пехоты, АНБ, ФБР, Военная академия Вест-Пойнт, Национальное агентство общественного здравоохранения США, телерадиокомпания ВВС, Международное агентство по атомной энергии (МАГАТЭ) и другие организации.
AIP не является специализированным продуктом для армии. В презентации демонстрируется лишь один из сценариев ее использования. Платформа позволяет интегрировать ИИ в любую защищенную программную среду. На демо AIP использует три большие языковые модели с открытым исходным кодом, а также несколько пользовательских подключаемых модулей.
При этом эксперты отмечают, что все три нейросетевые модели, используемые в AIP, ранее, в продуктах других компаний, нередко давали ошибочные решения или просто придумывали несуществующие ответы.
Эксперт в области искусственного интеллекта, CEO компании One Green Monkey Отари Меликишвили высказал сомнения в текущей эффективности AIP: "Это просто система анализа событий на основе ИИ, привязанная к карте. Для того чтобы это все корректно работало, нужно постоянно, ежесекундно собирать "тонны" данных по всей контролируемой территории. Наземными датчикам, дронами, спутниками. Должна быть трансляция видео, звуковые данные, вибрация и пр. Без такой информации система не будет корректно работать, а собирать эти данные в таком объеме на меняющейся карте боевых действий сейчас никто не способен. Видео Palantir больше похоже на маркетинговую и PR-активность, чем на готовый прототип".
Среди политиков, экспертов, общественных организаций до сих пор идут горячие споры относительно границ использования искусственного интеллекта.
На сайте некоммерческой организации Future of Life было опубликовано открытое письмо с призывом приостановить на шесть месяцев разработку систем искусственного интеллекта мощнее GPT-4.
Письмо подписал глава Space X и Tesla Илон Маск, сооснователь Apple Стив Возняк, Тристан Харрис (из Центра гуманных технологий) и еще более 1000 человек, среди которых были и российские разработчики. Подписанты считают, что нельзя доверять разработку ИИ "неизбранным лидерам технологий", что ИИ-продукты нужно создавать с уверенностью, что они дадут "положительный эффект". Нередко даже самим создателям непонятны решения, принимаемые ИИ.
Этические вопросы при разработке и использовании ИИ не ограничиваются военной сферой. Председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детства иерей Федор Лукьянов считает, что необходимо установить запрет на применение в программах и технологиях ИИ человеческих голосов, лиц.