14 апреля 14 апр. 66 5808

Актёры Baldur’s Gate III встревожены ИИ-клонированием их голосов

Развитие ИИ ставит под вопрос дальнейшую судьбу актёров: технологии эволюционировали достаточно сильно, чтобы попробовать создать любую реплику без участия исходного артиста. Портал Eurogamer поговорил об этом с исполнителями, которые сыграли персонажей  Baldur’s Gate III — игру как раз много хвалят за актёрские работы.

Амелия Тайлер (Amelia Tyler), голос рассказчика:

Люди воссоздают мой голос через ИИ на основе Baldur’s Gate III без моего разрешения. Как и голоса других актёров из этой игры. Чтобы никто не сомневался: никто из нас не давал разрешения на это ни в каком виде. Если я не подписала что-то, что разрешает вам так делать, это становится воровством не только моей работы, но и моей личности.

У меня бывали очень дурные случаи. Я зашла на один стрим, где включили генерацию голоса на основе текста и отдали управление чату. Я попала на стрим, потому что мне о нём сказали, и услышала, как мой собственный голос зачитывает порно с изнасилованием. Вот с таким уровнем дурного нам приходится сталкиваться после выхода игры. Честно говоря, это ужасно.

Я обожаю моды для игр. Но действительно взять мой голос и тренировать его для чего-то без моего разрешения — это должно быть незаконно.

Эндрю Уинскотт (Andrew Wincott), Рафаэль:

Круто, что можно создать 40 часов продукта из 10 часов озвучки. Но только если вы платите мне за 40!

Если вы собираетесь подписать что-то, что означает передачу прав на ваш голос, будьте крайне осторожны и убедитесь, что вознаграждение будет значительным. Потому что в этот момент ваша карьера закончится.

Саманта Берт (Samantha Béart), Карлах (комментируя сделку профсоюза SAG-AFTRA о контрактах с генерацией голосовых ИИ-клонов):

Тут следовало о многом подумать. Звучит так, что многих менее гламурных актёров просто закинули под каток, потому что старались защитить более известных актёров. Нам нужно больше защиты.

Нил Ньюбон (Neil Newbon), Астарион:

ИИ не следует использовать для озвучки, потому что потеряются нюансы, исчезнут счастливые случайности, не станет такого же взаимодействия между режиссёром и актёром. Я знаю многих в игровой индустрии, которые обожают работать с актёрами благодаря тому, что мы привносим в процесс, какое искусство мы добавляем. Не думаю, что искусство можно спрограммировать. Это не просто нули и единицы, не просто формула. Это особая магия.

Eurogamer также поговорил с актёрами из других игр.

Дэвид Хэйрвуд (David Harewood), Уорлин Дур из Alan Wake 2:

ИИ — это большая угроза. Нам следует найти способ, при котором ИИ улучшит нашу профессию, а не заменит её. Я не думаю, что это случится. Мы все уникальные личности, и компьютер вряд ли когда-нибудь сумеет заменить интересные черты каждого отдельного человека.

Но я считаю, что студии, если им это сойдёт с рук, сделают всё возможное, чтобы заработать как можно больше денег для себя, даже если понадобится сократить множество работников и выкинуть их из бизнеса. Мы обязаны сражаться, чтобы этого никогда не произошло.

Бен Старр (Ben Starr), Клайв из Final Fantasy XVI:

Полагаю, что, к сожалению, мы попали в ситуацию, где ИИ развивается настолько стремительно, что мы видим прогресс практически каждый день. Не думаю, что существует профсоюз, который смог бы обустроить корректную защиту от ИИ.

Я надеюсь, наши интересы учтут. Сейчас всё выглядит так, что о нас думают слишком поздно. Кажется, ИИ — это что-то с огромной выгодой для игровой индустрии, для киноиндустрии. Он с нами уже довольно долго — и за это надо заплатить серьёзную цену.

Ральф Айнсон (Ralph Ineson), Сид из Final Fantasy XVI, рассказывает, что недавно участвовал в переозвучке собственного диалога для фильма. Сначала там попытались применить ИИ:

Звучало так, как будто я очень плохо играю. Страшно представить, что со временем они смогут улучшить ИИ, чтобы он работал как надо. Видеть эти ранние стадии довольно жутко.

Поддержи Стопгейм!

Baldur’s Gate III

Платформы
PC | Mac | PS5 | XBOXSX | Stadia
Жанры
Дата выхода
3 августа 2023
5.4K
4.7
2 918 оценок
Моя оценка

Лучшие комментарии

Я затрагивал этот вопрос как-то.

В общем, давайте взглянем на этот вопрос… ну как-бы юридически. На примере российского законодательства будет проще (ну и потому, что я только его и более-менее знаю). Голос как и внешность человека — это биометрические данные. Если обратить внимание на ФЗ «О персональных данных», то обнаружим, что такая информация, которая позволяет идентифицировать биологически и физически одного человека, на самом деле категорически ограничена в обороте (разве что само лицо не давало письменное разрешение на такую *обработку* информации). В гражданском законодательстве (ГК РФ, часть 1), в соответствии со ст. 152.1 ГК РФ, изображение/фото гражданина, его видеозапись, где это лицо изображено разрешается использовать ТОЛЬКО с его согласия (кроме случаев, когда само лицо позировало для Вас, было запечатлено в публичном месте). Я почти уверен, что часть 4 ГК РФ, посвящённая авторскому праву, содержить ряд положений, дополняющих ограничение использование изображение гражданина.

Самое прекрасное в гражданском законодательстве — это возможность аналогии закона и аналогии права. То есть если отсутствует конкретная норма, можно использовать схожую. Иными словами, есть возможность распространения ст.152.1 ГК РФ вообще на голос, внешность (а вы знаете, что и внешность нынче можно воссоздать с помощью ИИ) гражданина. В особенности, если такое использование посягает на его нематериальные блага (честь, достоинство, здоровье).

В противном случае, я считаю, уголовное законодательство может приобрести новые составы преступлений касающихся как раз-таки использования ИИ (в нашу с вами цифровую эпоху и ростом угроз для личности). И ребят, было бы совсем плохо, если бы ИИ вообще запретили. Государству предстоит сформировать такие нормы, чтобы они были гибки, позволяли развернуться, использовать ИИ без нарушений существующих прав человека. А это задача не из примитивнейших.

Эх… надеюсь, я не зря получаю юридическое образование. Юристы меня подправят, если я не прав.

Теперь можно открыть форточку, я тут изрядно надушил.

Шизофрению я слышу в их словах. То как «ИИ никогда не заменит актера» и тут же в следующем предложении «нам нужен профсоюз чтобы защититься от угроз ИИ».

Может потому что это один человек говорит первую вещь, а вторую вещь говорит уже второй человек, и у них, прикинь, может быть разное мнение по этому поводу, потому что это разные люди?

И да, каким образом это взаимоисключающие вещи? Если ИИ не может полноценно заменить человека, как это мешает корпорациям всё равно брать и использовать ИИ, чтобы заменить людей, пусть и некачественной работой, просто чтобы меньше тратить денег?

Эх, было бы всё так просто. С моим половинным юридическим образованием скажу так, что даже для некоммерческого использования будет ряд ограничений в законах. Будущее, конечно, туманно, но когда речь идёт об обработке такой информации, как голос индивидуального человека (который сам по себе коммерчески успешен), то всё будет уже зависить от этого актёра (при условии, что он не связан договором с другим лицом, который ограничивает его право на распоряжение своим голосом). «Разрешит ли он письменно моддерам использовать свой голос?» — вот главный вопрос.

Юридические вопросы всегда сложны.

Ничего душного, людям надо знать как устроен мир в котором они живут. Всё полезно. Спасибо

разве что само лицо не давало письменное разрешение на такую *обработку* информации

Текст в скобках тоже надо читать.

Ну, сколько я тут работаю, однозначного ответа о том, как лучше переводить прямую речь, мы всем Стопгеймом так и не нашли.

С одной стороны, конечно, хочется больше литературности, чтобы русский звучал более естественно, а с другой стороны — велик шанс исказить интонацию оригинальной речи. Искажения и так происходят, когда живую речь переписывают безэмоциональными символами (потому что теряются интонации говорящего — см., например, вечные проблемы распознания сарказма в комментариях), поэтому как-то не хочется добавлять ещё больше искажений вольностями перевода.

В итоге дефолт — да, прямой перевод с пожертвованием естественности русского языка. Иногда ради сохранения смысла мы добавляем литературности, но это скорее исключение, чем правило.

В конце концов, в новостях не художественные тексты пишем, а информационные — здесь смысл сильно важнее формы.

Ну это вообще не ново, что касается модов. Любой ассет, который игроки используют для модификации может оказаться предметом для суда. А сами моды, как и весь контент, который создается на базе чужой интеллектуальной собственности, уже тебе не принадлежат, а принадлежат правообладателям. Просто разные компании по разному на это реагируют. Может утрирую, но сам как автор модификаций, знаю что работать надо осторожно, особенно, если делаешь большой проект.

На тему пародистов есть соответствующие законы.

Пока вроде не может, но это не значит, что не сможет в будущем.

Если ИИ не может полноценно заменить человека, как это мешает корпорациям всё равно брать и использовать ИИ, чтобы заменить людей, пусть и некачественной работой, просто чтобы меньше тратить денег?

На текущий момент мне именно это видится основной проблемой.

Я вашу позицию понял, но мне она не близка. Взялся переводить — будь добр знать язык. Можно было сделать лучше.

За мат простите, денек тяжелый, вырвалось. :) 

Регулировать этот прогресс всё равно надо. Даже если отодвинуть в сторону всю биометрию, всё это слишком похоже на копирование и нарушение авторских прав. Нельзя же просто пройтись фильтрами по фильму и продавать его как свой. Изменить часть кода и продавать программу как свою. Почему с голосовыми нейросетками можно?

Этим всем сейчас активно пользуются только потому что соответствующих законов нет. От того пострадавшие и напрягают профсоюзы и прочее.

Шизофрению я слышу в их словах.

Потому что ИИ, прикинь, развивается ОЧЕНЬ интенсивно...

Надо было переводить как Двер. Билл Двер.

технологии эволюционировали достаточно сильно, чтобы попробовать создать любую реплику без участия исходного артиста

Может: «технологии продвинулись достаточно сильно, чтобы с их помощью можно было создать любую реплику» …? У вас в предложении акторность смещается на сами технологии,  и звучит так, будто фантастику сочиняете. И да,  ошибка у ввс здесь не только на уровне формы.

игру как раз много хвалят за актёрские работы.

Ну, тоже очевидно машинный плюриель. Да, вы не пишете художественный текст, но не порождать неуклюжие словосочетания — это вроде как задача любого перевода, а не только художественного.

Я попала на стрим, потому что мне о нём сказали, и услышала, как мой собственный голос зачитывает порно с изнасилованием.

Тут пренебрежение стилистикой тоже искажает смысл. Обычно на стрим не «попадают» (глагол подразумевает случайность), если о нём рассказали, а специально заходят. «Зачитывать порно с изнасилованием» — очевидно неправильная синтагма, поскольку «порно с изнасилованием» — визуальный ряд, который может быть озвучен, а не зачитан. Если же визуального ряда не было, а её голос озвучивал текст, то она «озвучивала текст для порно с изнасилованием».

Вот с таким уровнем дурного нам приходится сталкиваться после выхода игры.

А еще пренебрежение формой создаёт всяких странных химер в стила «уровня дурного». Хотя по идее услышать себя, озвучивающим порнуху, смахивает на «дурную вещь».Ваше деление на смысл и форму ложно, потому что смысл часто связан с формой или даже производен от нее бывает.

поэтому как-то не хочется добавлять ещё больше искажений вольностями перевода

Так калька — это отказ от перевода. 

Знаю, что есть законы, защищающие пародии на что-то как самостоятельные произведения искусства, но не слышал о правовом регулировании деятельности людей, которые пародируют других людей. 

Кстати, пока думал над комментарием, в голову пришла одна мысль, натолкнула меня на это новость о нейросетевом озвучивании дополнения Призрачная свобода на русском, где в качестве образца использовались голоса английской озвучки: у нас есть программы для изменения собственного голоса «на лету», и есть программы, которые могут генерировать голос, на основе уже проанализированной звуковой дорожки. Что, если совместить их? Человек на русском озвучивает реплики, ставит правильно ударения, акценты, эмоции, а программа подгоняет параметры его голоса под конкретного персонажа, используя исходную звуковую дорожку. Воровством это уже трудно назвать, если бы оригинальный актер произносил свою реплику на русском языке, он бы звучал иначе из-за акцента, необходимости воспроизводить непривычные для него звуки или их сочетания и т.д.

Читай также