По данным электронной торговой площадки "Росэлторг", общее количество закупок государственными и муниципальными учреждениями, где упоминались решения, связанные с ИИ, машинным обучением, нейронными сетями, большими языковыми моделями и тому подобным, выросло с 2022 года почти вшестеро. А количество таких закупок компаниями с госучастием - в четыре раза.
Тем временем, по оценкам Международной консалтинговой компании McKinsey, при нынешних темпах роста глобальные затраты на борьбу с киберпреступностью к 2025 году достигнут примерно 10,5 триллиона долларов, что на 300 процентов больше показателя 2015-го.
Очевидна необходимость не просто учета и минимизации подобных рисков, а разработки и регулировки принципов развития ИИ в гуманитарных и управленческих сферах для обеспечения более продуктивного взаимодействия с человеком. Ведь ошибки при решении специфических когнитивных задач возможны как со стороны человека, так и со стороны искусственного интеллекта.
Эксперт по кадрам в банковской сфере Владлен Лисовик проанализировал обоснованность заключений сотрудников служб по работе с персоналом одного из крупнейших банков страны о том, насколько качества кандидатов соответствуют требованиям к конкретным вакансиям. Результаты показали явную необходимость введения инструментов дополнительной поддержки принятия подобных решений, так как зачастую выводы людей основываются на факторах, которые мало соответствуют специфике должностных задач или носят труднообъяснимый характер (например, "он какой-то несуразный" или "у него вид какой-то болезненный").
Встречный пример опыта использования ChatGPT для обобщения выводов на заданном массиве текстовых данных привела консультант сектора поведенческой экспертизы нормативных актов Банка России Анна Уланова. Ее анализ показал, наоборот, необходимость тщательной проверки обоснованности выводов ИИ, который довольно креативно и убедительно по форме выдавал за нечто само собой разумеющееся утверждения, абсолютно не подтверждаемые фактами.
Гармонизация и повышение продуктивности взаимодействия с машинными системами потребует налаживания механизмов взаимной проверки и объяснения "запросов и умозаключений" и со стороны человека, и со стороны системы ИИ. При этом приоритет в выборе и утверждении "совместно выработанного решения" должен оставаться за человеком, так как только он в данном случае обладает правосубъектностью. Вместе с тем и предоставление разного рода вспомогательных/сервисных функций со стороны ИИ должно сопровождаться пояснениями и отчетами о перепроверках и обоснованиях выводов - подобно тому, как это принято в экспертной деятельности человека.
В большинстве стран уже обсуждаются или приняты разнообразные нормативные акты о "контроле неточностей и вопросов кибербезопасности", связанных с внедрением ИИ. Активно развивается новое направление - так называемый объяснительный искусственный интеллект (XAI). Он является движущей силой изменения всего ландшафта ИИ и открывает эру систем, которые "могут объяснять свои решения людям".
Однако в связи со стремительным глобальным внедрением ИИ новых поколений в технологических компаниях и в отраслях, основанных на знаниях (банковское дело, фармацевтика, медицинские изделия и образование), разработка корпоративных и ведомственных политик требует значительной активизации, консультационного и научно-методического сопровождения. Сегодня же опросы говорят о наличии работающих целенаправленных программ и политик в сфере искусственного интеллекта примерно у трети опрошенных корпораций.
В перспективе именно системы гибридного и объяснительного интеллекта будут усиливать связку "человек - компьютер - сеть" при решении таких задач, как анализ недостающих компетенций у персонала организаций в целом и у конкретных работников; построение прогноза оптимальной профессиональной траектории абитуриента, студента или специалиста; оценка перспектив и последствий внедрения отдельных технологий и решения важнейших научно-технологических проблем. В принципе это актуально для массы задач, требующих сложноструктурированного контент-анализа и экспертных оценок на больших объемах текстовых слабоструктурированных данных.
Обсуждение этих вопросов продолжится 21 марта в рамках VI Международного научного форума "Шаг в будущее: искусственный интеллект и цифровая экономика" в РЭУ имени Г. Плеханова.