Пальто Папы Римского — это тревожный сигнал для AI Images
ПАРИЖ — Стало ли пальто Balenciaga тревожным сигналом?
После того, как ранее на этой неделе фотореалистичное изображение Папы Франциска в белом пуховике от бренда вызвало ажиотаж в Интернете, Илон Маск, соучредитель Apple Стив Возняк и соучредитель Skype Яан Таллинн подписали открытое письмо, в котором призвали компании ограничить развитие искусственного интеллекта.
Они были в числе технологических лидеров, заявлявших, что быстро развивающиеся системы представляют “серьезные риски для общества и человечества”.
Каким бы невероятным ни казалось, что папа римский был одет Демной, когда изображение, созданное искусственным интеллектом в середине дня, стало вирусным, большинство людей не смогли бы сказать, что это подделка. Многие впервые узнали о возможностях искусственного интеллекта и предоставили публике самой разбираться с последствиями этих новых технологий.
На фоне всего этого известный бренд Levi’s объявил, что будет использовать модели, созданные с помощью искусственного интеллекта, в партнерстве со студией цифровой моды Lalaland. Искусственный интеллект для увеличения разнообразия и инклюзивности. Бренд быстро столкнулся с негативной реакцией и призвал просто нанимать людей с разными моделями, вместо того чтобы полагаться на технологии. Использование изображений с использованием искусственного интеллекта может перевернуть не только индустрию моды и творческие профессии, такие как фотография и стайлинг, — не говоря уже о том, что, по оценкам McKinsey, к 2030 году это может стоить от 400 до 800 миллионов рабочих мест, — но и то, как люди просматривают и анализируют фотографии, что может иметь серьезные последствия для самой демократии. “С изображениями папы римского это забавно, это в некотором роде глупо, и это не имеет большого значения в том смысле, что это за изображения на самом деле.
Но это открывает тему для обсуждения и поднимает более широкие вопросы. Это возможность привлечь внимание людей”, — говорит Маири Эйткен, научный сотрудник по этике Института Алана Тьюринга, национального института науки о данных и искусственного интеллекта Великобритании.
На этой неделе были распространены и менее безобидные снимки, в том числе президента Франции Эммануэля Макрона, который, по-видимому, собирает мусор на улицах Парижа на фоне забастовки санитарных работников и беспорядков в стране, а также провокационные снимки бывшего президента США Дональда Трампа, которого полиция, похоже, уводит после предъявления ему обвинения. На конференции, организованной Институтом Алана Тьюринга на этой неделе, изображения были одной из самых обсуждаемых тем. “Эти поддельные изображения, которые появляются, вызывают опасения по поводу возможных долгосрочных последствий.
Быстрое развитие технологий вызывает восторг, но в то же время опасения по поводу последствий и того, что они могут быть вредными”, — сказал Эйткен. “Растет осознание рисков, связанных с использованием искусственного интеллекта”.
Могут быть явные признаки — эксперты советуют смотреть на руки, которые искусственный интеллект еще не довел до совершенства, или на очки, — но для этого нужен проницательный взгляд. “Реальность такова, что люди не так воспринимают изображения, не так потребляют МЕДИА. Если вы просто прокручиваете страницу мимо, это выглядит реалистично, это выглядит убедительно”, — сказала она. Кроме того, по мере совершенствования генераторов изображений с помощью искусственного интеллекта изображения будут становиться все более и более сложными.
По сути, дело не в том, чтобы выяснить, является ли изображение поддельным или нет, а в том, что теперь в любом изображении заложено семя недоверия. Реальные изображения могут быть отклонены как поддельные, если кому-то не нравится то, что он видит, и это не соответствует его представлениям о мире.
Скорость, с которой развивается искусственный интеллект, “вызывает большое беспокойство” даже у тех, кто работает в этой области, сказал Александр Лот, старший программный менеджер Microsoft по науке о данных и искусственному интеллекту. Он изучает варианты использования и преимущества технологий в лаборатории Microsoft AI For Good. “Несколько недель назад даже не рассматривалась возможность того, что вы можете ввести запрос и получить фотореалистично выглядящего папу римского”, — сказал он.
Он поделился несколькими слайдами, демонстрирующими, как быстро развивается искусственный интеллект, которые демонстрируют большие скачки, произошедшие в этом году. Последняя версия Midjourney позволяет создавать фотореалистичные изображения, такие как белый халат папы римского, в то время как GPT-4, выпущенный две недели назад, похоже, понимает сложную логику.
Общедоступные программы искусственного интеллекта, такие как Midjourney, ChatGPT и Dall-E, имеют ограничения, но такие программы с открытым исходным кодом, как Stable Diffusion, можно обойти. “Таким образом, становится все труднее бороться с дезинформацией и такого рода фотографиями.
Когда в следующем году в США будет запущена программа с открытым исходным кодом. Выборы происходят, и мы не очень уверены в том, что увидим”, — сказал Лот. Одно из предлагаемых решений — невидимые цифровые водяные знаки, похожие на метаданные, которые можно было бы использовать для аутентификации реальных фотографий. Другое предлагаемое решение — использовать блокчейн для проверки происхождения изображения. “Это может быть очень полезно для отслеживания фейковых новостей”, — сказал Леонард Коркмаз, руководитель отдела исследований в Quantlab и менеджер по продуктам в Ledger. Он рассказал о Lenster, социальной сети, построенной на протоколе Lens, для отслеживания и проверки сообщений на блокчейне. “Если источником публикации фотографий был Ватикан, то, используя смарт-контракт NFT, люди смогут определить, что они были опубликованы официальным аккаунтом.
Если их опубликовал кто-то неизвестный, это означает, что это может быть подделка, и вам нужно провести дополнительное расследование”, — сказал он. Однако для этого требуется оформить NFT на изображение, а также подтвердить учетную запись с помощью этих сервисов с помощью технологии, с которой обычный человек не знаком. Технология “на данный момент еще не полностью разработана”, — отметил Коркмаз. Ленстер все еще немного громоздок и не совсем удобен в использовании. Компания опубликовала планы по созданию протокола, но “по сути, это видение, которое должно появиться и быть раскрыто”, — сказал он. “Представление о том, что увидеть — значит поверить, больше не соответствует действительности, и сейчас это серьезный сдвиг”, — сказал Эл Томпкинс, старший преподаватель Института Пойнтера по вещанию и онлайн-технологиям. Бренды могут обратиться к ИИ, чтобы исключить фотографов из списка основных изображений. “В конечном итоге главный вопрос будет звучать так: ”Что делает настоящая фотография такого, чего не делает искусственный интеллект?» — Он сравнил это с революцией Photoshop 30-летней давности, которая сейчас широко признана в качестве инструмента для манипулирования изображениями.
Однако для работы с Photoshop требуются определенные навыки, подготовка и время. Работа над изображением занимает несколько слов и всего несколько секунд. “С искусственным интеллектом вам не нужны никакие навыки, и это очень быстро. Это пугает. У каждого плохого актера может быть огромное количество фальшивых фотографий и фейковых новостей”, — сказал Лот из Microsoft. Единственное препятствие для входа — это ваше воображение. По словам Томпкинса из Poynter’s, генераторы изображений с искусственным интеллектом также обладают способностью создавать что-то “в стиле” конкретного художника, что приводит к проблемам с авторским правом.
Как только future law освоит технологии, он придумает что-то похожее на сэмплирование песни в музыке, чтобы вознаградить фотографов и художников. Отраслевая организация Coordination of European Picture Agencies, в состав которой входят Getty Images и Magnum Photos, выпустила ряд руководящих принципов, направленных на поощрение ответственного использования искусственного интеллекта в фотографии, а также на решение вопросов авторского права и конфиденциальности. “Мы признаем потенциал искусственного интеллекта для преобразования индустрии визуальных медиа, но мы также признаем риски, связанные с его использованием”, — заявила президент CEPIC Кристина Воган.
Организация отмечает, что закон “изо всех сил пытается охватить все возможные виды использования и потенциальные злоупотребления”.
“Многие компании производят производные продукты, которые используют существующие ”серые зоны» для получения конкурентного преимущества, избегая вознаграждения создателей оригинала и жертвуя долгосрочными общественными выгодами ради краткосрочной выгоды», — заявили в организации. Авторское право вступает на неизведанную территорию.
В США Getty Images подает в суд на создателя Stable Diffusion Stability AI за обучение своего искусственного интеллекта фотографиям агентства, создание производных работ и нарушение его авторских прав. “На данный момент в большинстве стран мира установлено, что авторство принадлежит физическому лицу”, — сказал Томас Костер, директор компании Thomas Coester Intellectual Property, базирующейся в Лос-Анджелесе. Другими словами, если платформе искусственного интеллекта просто выдаются подсказки, которые генерируют текст или изображение, большинство людей скажут, что в этом нет значимого творческого вклада человека, и, следовательно, нет авторских прав, и любой может скопировать это.
Однако, если есть какой-то человеческий вклад, это может изменить ситуацию. “Но на данный момент неясно, сколько будет достаточно”, — сказал Костер. В век “аутентичности” бренды могут выглядеть так, будто они обманывают своих покупателей, используя модели с искусственным интеллектом. “Если они лгут о человеке, то лгут ли они о продукте?” задался вопросом Томпкинс. “С таким же успехом это можно изобразить на кукле Барби.
Это не по-настоящему. Люди хотят знать, что происходит на самом деле.”
Это отсутствие достоверности заставило Levi’s отказаться от своего анонса. “Мы понимаем, что технологии, связанные с искусственным интеллектом, вызывают неоднозначную реакцию, и хотим пояснить, что мы планируем поэкспериментировать с этим проектом позже в этом году в надежде улучшить потребительский опыт.
Сегодня отраслевые стандарты фотосессии, как правило, ограничены одной или двумя моделями для каждого продукта. Lalaland. Технология искусственного интеллекта и искусственный интеллект в более широком смысле потенциально могут помочь нам, позволяя быстрее публиковать больше изображений наших продуктов для различных типов кузова”, — говорится в заявлении компании. В Levi’s пояснили, что не отказываются от своих планов по проведению фотосессий вживую, добавив: “Аутентичное рассказывание историй всегда было частью того, как мы общались с нашими поклонниками, а модели и сотрудники — люди, которые являются основой этого опыта”.
Смотрите также:
Кара Делевинь привнесла причудливый стиль в осенний показ Dior в Мумбаи http://euroelectrica.ru/kara-delevin-privnesla-prichudlivyiy-stil-v-osenniy-pokaz-dior-v-mumbai/.
Интересное по теме: Посмотрите Оправу для солнцезащитных очков Dita стоимостью 1200 Долларов от Культового Люксового бренда Dita
Советы в статье "Sephora назначила нового директора по персоналу по всему миру" здесь.
При участии Дженнифер Вейл.