Недавно Google выпустила обновленное приложение «Google Фото», в котором, помимо прочих нововведений, появилась функция автоматической сортировки фотографий по альбомам на базе технологии компьютерного зрения — автоматического распознавания содержимого снимков. И тут же программа дала сбой, идентифицировав чернокожих людей как горилл, поместив их снимки в альбом с соответствующей меткой.
Обнаруживший ошибку чернокожий пользователь не смог скрыть своего негодования и использовал ненормативную лексику в своем сообщении в Twitter. «Google Photos совсем ... Мои друзья — не гориллы», — рассердился 21-летний программист-афроамериканец из Нью-Йорка Деки Алкайн
Через девять минут ему в Twitter, также используя ненормативную лексику, ответил представитель Google. «Вот ...! Это не способ поиска новой аудитории. Это стопроцентно ненормально», — написал Йонатан Зунгер, представившийся главным архитектором сети Google+.
Ошибка тут же была устранена. «Мы шокированы и приносим искренние извинения за случившееся. Мы немедленно предприняли шаги для устранения ошибки, чтобы указанный результат больше не отображался. Над технологией автоматического присвоения тегов еще нужно много работать. И мы ищем способы предотвращения подобных инцидентов в будущем», — было сказано в официальном сообщении Google.
Зунгер добавил, что это не первый случай ошибочного распознавания изображения. Раньше приложение «Google Фото» неправильно присваивала метки фотографиям людей любых рас, принимая их за собак.
Google scrambles after software IDs photos of two black people as "gorillas." http://t.co/b8dcdvu1Ir pic.twitter.com/a7RJw5tB9Q
— Slate (@Slate) 30 июня 2015