"Типографская атака": ручка и бумага заставляет искусственный интеллект считать, что яблоко - это iPod

Система Clip OpenAI не может правильно расшифровать изображения, когда  в них вставляются слова.

Покажите ИИ изображение яблока, и он сможет распознать, что смотрит на фрукт. Он даже может сказать вам, какой из них, и иногда даже может различать разновидности. Но даже самый умный ИИ можно обмануть простейшими уловками. Если вы напишете слово «iPod» на липкой этикетке и наклеите его на яблоко, Clip сделает нечто странное: он почти наверняка решит, что смотрит на бытовую электронику середины нулевых. 

далее...