АТАКА НА МОДЕЛИ МАШИННОГО ОБУЧЕНИЯ Что изображено на картинке ниже? Человек: Золотистый ретривер Модель машинного обучения: Золотистый ретривер Человек: Золотистый ретривер Модель машинного обучения: Lion* Ой! Модель машинного обучения обманули! ПРЕДСТАВЬТЕ: Что могло произойти? Представьте, что вы едете на работу на беспилотном автомобиле (вероятно). Внезапно вы понимаете, что ваша машина движется со скоростью 100 км/ч по оживленной дороге после..

Высокая точность моделей машинного обучения подразумевает их способность точно имитировать процесс генерации данных, но они могут обладать свойством низкой интерпретируемости людьми (так называемой понятностью). Сложные модели плохо объясняют свои прогнозы, что может стать препятствием для их принятия. Для критически важных приложений, где интерпретируемость помогает понять роль каждой функции…