Seedance 2.0, модел за генериране на видео с изкуствен интелект, разработен от ByteDance, наскоро стана вирусен в Китай, но сега е изправен пред контрол от индустрията поради технически спорове. Съобщава се, че моделът демонстрира способността да генерира много точни лични гласови характеристики, използвайки само изображения на лицето, дори без разрешение от потребителя.
Въпреки че функцията показа силни технически възможности, тя повдигна сериозни опасения за поверителност и етика и оттогава беше спешно спряна.
Seedance 2.0 на ByteDance използва архитектура на дифузионен трансформатор с двоен клон за генериране на видео визуализации и нативно аудио едновременно. Потребителите могат да въвеждат текст или да качват изображения и в рамките на 60 секунди моделът създава поредици от множество снимки с 2K резолюция.
Неговата забележителна характеристика е способността да генерира кохерентно съдържание от много сцени от една подкана, като автоматично анализира логиката на повествованието, като същевременно поддържа последователно представяне на героите.
В скорошен тест, Pan Tianhong, основател на технологична медия MediaStormоткри, че качването на лична снимка на лицето е накарало модела да произведе звук, почти идентичен с истинския му глас – без да използва гласови проби или оторизирани данни.
Разкритието бързо повдигна опасенията на обществото относно фалшифицирането на самоличността, управлявано от AI. Ако се използва неправилно, технологията може да позволи нови форми на злоупотреба, включително дълбоки фалшиви новини, измами и атаки срещу репутацията.
MediaStorm предполага, че AI може в крайна сметка да направи видео редакторите остарели в бъдеще.
В понеделник операторите на платформата Jimeng (името на приложението за китайския пазар на Seedance 2.0) обявиха: „За да поддържаме здравословна и устойчива творческа среда, ние спешно актуализираме модела и незабавно ще спрем функцията, която позволява реални снимки или видеоклипове да се използват като референтни обекти.“
В същото време приложенията Jimeng и Doubao на ByteDance въведоха стъпка за проверка на живо, изискваща от потребителите да запишат собственото си изображение и глас, преди да създадат цифров аватар. ByteDance подчерта, че тези корекции са предназначени да поддържат крайната линия на отговорността, като същевременно балансират иновациите с нормативното съответствие.
кредит: Приложение Jimeng
Seedance 2.0 остава във фазата на вътрешно тестване, като ByteDance предприема проактивни стъпки като ограничаване на определени функции и засилване на прегледа на съдържанието, за да смекчи потенциалните рискове. Този ход показва ангажимента на компанията към етичното развитие на ИИ.
С напредването на технологията постигането на точния баланс между иновациите, съответствието на данните и защитата на авторските права се превръща не само в корпоративна отговорност, но и в глобално предизвикателство за индустрията на ИИ.
Наблюдателите от индустрията остават оптимисти относно потенциала на Seedance 2.0 в кратки драми и анимационни сериали, управлявани от изкуствен интелект, но подчертават, че всяко внедряване в реалния свят трябва да се основава на безопасност, контрол и отчетност.
Свързани
Нашия източник е Българо-Китайска Търговско-промишлена палaта