Опасности обучения нейросетей на реальных данных: что нужно учитыватьОпасности обучения нейросетей на реальных данных: что нужно учитывать

Опасности обучения нейросетей на реальных данных: что нужно учитывать

Дмитрий Федотов, архитектор ИИ-платформы AiLine Softline Digital (ГК Softline), в комментарии для «Известий» рассказал о рисках, связанных с обучением искусственного интеллекта на реальных данных. Он отметил, что детали, содержащиеся в документах, могут быть извлечены даже без прямого доступа, благодаря косвенным признакам и грамотным запросам к генеративным ИИ-моделям.

В статье обсуждаются планы правительства разработать программу проверки ИИ-моделей, обученных на государственных данных, и выделить на это 8,1 млрд рублей. Эксперты выражают опасения по поводу возможных утечек и обсуждают ужесточение ответственности за нарушения, включая штрафы до 15 млн рублей и новую статью в Уголовном кодексе.

Подробнее — «Известия»

9.12.2024