ВТБ и МГУ создали детекторы токсичности и галлюцинаций для ИИ-агентов

29 октября 2026

ВТБ совместно с Центром искусственного интеллекта МГУ разработал систему контроля ответов ИИ-агентов, включающую детекторы токсичности и галлюцинаций. Об этом сообщили в пресс-службе банка.

Детектор токсичности проверяет клиентские запросы на содержание запрещенных тем, нарушения законодательства, наличие контента 18+ и другие неэтичные элементы. При выявлении таких сообщений система блокирует запрос и не обрабатывает его.

Детектор галлюцинаций анализирует уже сформированные ответы цифровых помощников, распознает несоответствия и противоречия и указывает, в какой части ответа они расположены. После этого специалисты ВТБ могут отправить ответ на повторную проверку или заблокировать его. В пресс-службе отметили, что галлюцинации — одна из самых распространенных проблем генеративного ИИ, когда языковая модель выдает уверенный, но полностью вымышленный ответ.

Советник первого заместителя президента — председателя правления ВТБ Сергей Путятинский в рамках Kazan Digital Week подчеркнул, что ИИ-агент не должен поддаваться на провокационные формулировки, отвечать недостоверно или рекомендовать несоответствующие запросу финансовые продукты и услуги.

Последние новости



В Москве на торги выставлено историческое здание на Неглинной улице
29 октября 2026

Департамент по конкурентной политике Москвы выставил на торги нежилое здание с земельным участком в Мещанском районе на Неглинной улице. Площадь здания составляет 634,4 кв. м, участка — 396 кв. м. Объект расположен рядом со станцией метро «Трубная» и имеет свободное назначение, что делает его подход


«Логика молока» купила производителя растительных продуктов Velle
29 октября 2026

Компания «Логика молока», ведущий российский производитель свежих молочных продуктов, мороженого, детского питания и напитков на растительной основе, завершила сделку по приобретению ООО «Велле холдинг» — владельца бренда растительных продуктов Velle. Об этом сообщила сама компания.Приобретённый про


МВФ назвал нефтегазовый шок из-за войны с Ираном крупнейшим с 1974 года
29 октября 2026

Нефтегазовый шок, вызванный конфликтом с Ираном, стал крупнейшим в истории со времен экономического кризиса 1974 года. Об этом заявил директор департамента Ближнего Востока и Центральной Азии Международного валютного фонда (МВФ) Джихад Азур в интервью эмиратской газете The National.По его словам, эт


Bloomberg и трейдеры купили сверхбыстрый доступ к постам Трампа
29 октября 2026

Информационное агентство Bloomberg и две трейдинговые компании с Уолл-стрит — Susquehanna International Group и Jump Trading — приобрели ускоренный на 50 миллисекунд доступ к постам президента США Дональда Трампа в Truth Social. Об этом сообщает Reuters со ссылкой на источники.Сервис Truth API предо


Господдержку резидентов ОЭЗ Калининграда продлят до 2045 года
29 октября 2026

Комитет Госдумы по экономической политике рекомендовал нижней палате принять в первом чтении законопроект, уточняющий требования к инвестпроектам Особой экономической зоны Калининградской области и продлевающий господдержку ее резидентов до 2045 года. Документ инициирован группой депутатов и сенатор


Лидеры роста

Тикер Название Изменение
KCHE Камчатскэнерго +5.29%
SMLT Самолет +3.84%
WTCMP ЦМТ +3.23%
MTLR Мечел +3.07%
KUZB Банк Кузнецкий +2.54%
YKEN Якутскэнерго +2.36%
ZVEZ Звезда +2.02%
MTLRP Мечел +2.00%
VGSB Волгоградэнергосбыт +1.51%
LMBZ Ламбумиз +1.21%

Лидеры падения

Тикер Название Изменение
OKEY OKEY -5.82%
VJGZ Варьеганнефтегаз -4.85%
MTSS МТС -4.70%
TASB Тамбовэнергосбыт -4.43%
STSB Ставрополэнергосбыт -4.25%
LENT Лента -3.98%
YAKG ЯТЭК -3.93%
SFIN ЭсЭфАй -3.77%
KGKC КГК -3.59%
KGKCP КГК -3.59%