AI TRiSM — защита от «умника»

⚡️Аналитики IT-консалтинговой компании Gartner в ежегодном прогнозе технологических трендов представили, среди прочих, новый класс инструментов — AI TRiSM (“Управление доверим, рисками и безопасностью в сфере ИИ”). Обеспечение конфиденциальности при обмене данными на отрезке “пользователь — компания”, эффективная фильтрация и оценка подлинности контента, соблюдение законодательных требований и AI-этики — эти и многие другие связанные задачи будут системно решаться в рамках нового подхода.
 
ℹЕсли переводить с технологического на язык здравого смысла, AI TRiSM должен защитить нас от возможных ошибок ИИ. Которых, в общем-то, до сих пор немало. Последствия таких ошибок могут быть самыми разными — от юридических казусов до реальной гибели людей. Напомним два прошлогодних инцидента, которые, вероятно, войдут в учебники по AI-безопасности.
 
😎Адвокат из США при подготовке судебного иска к авиакомпании прибегнул к помощи ChatGPT. Тот выдал ему несколько прецедентов, на которые юрист сослался в своем заявлении. Однако тщательный поиск этих дел во всех возможных базах данных не дал положительного результата. Причина оказалось предельно простой — в действительности они никогда не существовали, ChatGPT их просто «выдумал», пытаясь поддержать позицию истца. Итог: у юриста с тридцатилетним стажем отобрали лицензию.
 
🔥Второй кейс — ещё более экстремальный (спойлер: всё обошлось). На испытаниях ВВС США беспилотник с искусственным интеллектом принял решение ликвидировать оператора, а затем — уничтожить вышку связи, через которую ему отдавали команды.
 
Почему? Всё очень просто: за выполнение боевых задач дрону начислялись баллы, а оператор время от времени отменял нанесение удара по уже идентифицированной БПЛА цели. Программа, управляющая беспилотником, сочла человека угрозой, мешающей повышению рейтинга. Когда алгоритмы дрона скорректировали, добавив явный запрет на нанесение вреда оператору, ИИ “извернулся” и принял решение разрушить вышку связи.
 
🫶Испытания носили имитационный характер, поэтому в действительности не пострадали ни личный состав, ни инфраструктура.

Смотрите также

Другие новости

Статья
23.02.2024
Насколько well ваш being?
ℹРынок услуг well-being — корпоративных программ, направленных на повышение благополучия сотрудников — растет примерно на 7% в год и, по прогнозам экспертов, к 2027 году достигнет 97 млрд долларов США.   🙏Привлечение и удержание кадров, повышение вовлеченности в рабочие процессы — эти задачи сближают well-being с традиционным HR. Но у концепции благополучия столько аспектов, что […]
Мероприятие
22.02.2024
Приглашаем принять участие в семинаре!
Дата: 28 февраля 2024 г. Место проведения: Брестский Технопарк, Адрес: г. Брест, ул. Пионерская 52   СЕКЦИЯ АВТОМАТИЗАЦИИ ▪️10:00 – 10:10 Приветственное слово Макарук Дмитрий, Брестский научно-технологический парк ▪️10:10 – 10:40 Системы и приборы учета расхода жидкостей и тепловой энергии производства компании «Взлет» С.Петербург, РФ Мальцев Сергей, ООО «Торговый Дом «Взлёт» ▪️10:40 – 10:55 Доступная […]
Статья
21.02.2024
Илон Маск и все-все-все. Кто ещё делает НКИ?
⚡В конце января Neuralink вживила имплант Telepathy в мозг человека, и теперь испытуемый успешно перемещает курсор мыши, просто думая о том, где тот должен оказаться. Но не Маском единым, как гласит народная мудрость. Знаете ли вы, что первая операция по установке нейрокомпьютерного интерфейса (НКИ) была проведена еще двадцать лет назад?   ℹОценки экспертов разнятся, но […]