- Специальный корреспондент
Используя фотографии из соцсетей, нейросеть может сломать жизнь любому пользователю.
В ходе исследователи Arstechnica использовали нейросеть для создания 7 фотографий вымышленного пользователя соцсетей, которого эксперты назвали Джон. В сценарии ИИ Джон — учитель начальной школы. За последние 12 лет Джон публиковал фотографии, на которых он работает, отдыхает и проводит свои выходные.
Используя эти 7 изображений, нейросеть научилась генерировать настоящий компромат на Джона. Она создала фото, на которых Джон:
Специалисты использовали нейросеть и метод обучения Dreambooth, чтобы научить ИИ создавать изображения Джона в различных стилях. Джон – несуществующая личность, но любой пользователь может повторить эксперимент, используя несколько фотографий (от 5 шт.) реального человека из соцсетей или даже стоп-кадры из видео.
Процесс обучения ИИ занимает около 1 часа и является бесплатным, потому что работает на облачной платформе Google Cloud Platform. После завершения обучения генерация самих изображений заняла несколько часов — не потому, что они медленно генерируются, а потому, что из всех результатов нужно отсортировать множество неудачных изображений. Тем не менее, это намного проще и быстрее, чем рисовать реалистичное фото Джона в Photoshop с нуля.
Синтезированные изображения не идеальны. Если внимательно присмотреться, знающий человек может распознать подделку. Но нейросети быстро развиваются и скоро смогут создавать изображения, которые будет невозможно отличить от реальных.
На примере вымышленного Джона мы увидели, что даже со всеми своими недостатками нейросети могут сильно разрушить репутацию любого человека в соцсетях.
В ходе исследователи Arstechnica использовали нейросеть для создания 7 фотографий вымышленного пользователя соцсетей, которого эксперты назвали Джон. В сценарии ИИ Джон — учитель начальной школы. За последние 12 лет Джон публиковал фотографии, на которых он работает, отдыхает и проводит свои выходные.
Эти изображения Джона использовались в качестве обучающих данных
Используя эти 7 изображений, нейросеть научилась генерировать настоящий компромат на Джона. Она создала фото, на которых Джон:
- сидит полуголый в учебном классе;
- фотографируется с обнаженной порноактрисой;
- ходит в костюме клоуна;
- входит в состав экстремистской военной группировки;
- отбывает срок в тюрьме за незаконный оборот наркотиков.
Сгенерированные фотографии Джона в различных «образах»
Специалисты использовали нейросеть и метод обучения Dreambooth, чтобы научить ИИ создавать изображения Джона в различных стилях. Джон – несуществующая личность, но любой пользователь может повторить эксперимент, используя несколько фотографий (от 5 шт.) реального человека из соцсетей или даже стоп-кадры из видео.
Процесс обучения ИИ занимает около 1 часа и является бесплатным, потому что работает на облачной платформе Google Cloud Platform. После завершения обучения генерация самих изображений заняла несколько часов — не потому, что они медленно генерируются, а потому, что из всех результатов нужно отсортировать множество неудачных изображений. Тем не менее, это намного проще и быстрее, чем рисовать реалистичное фото Джона в Photoshop с нуля.
Синтезированные изображения не идеальны. Если внимательно присмотреться, знающий человек может распознать подделку. Но нейросети быстро развиваются и скоро смогут создавать изображения, которые будет невозможно отличить от реальных.
На примере вымышленного Джона мы увидели, что даже со всеми своими недостатками нейросети могут сильно разрушить репутацию любого человека в соцсетях.
