Яндекс запустил синхронный перевод прямых трансляций на YouTube в браузере
Яндекс добавил в свой браузер уникальную технологию автоматического закадрового перевода прямых трансляций на YouTube. Пока технология работает в режиме открытого бета-тестирования для перевода трансляций на ограниченном числе YouTube-каналов. Прямые трансляции можно посмотреть сразу на русском языке в режиме онлайн: вебинары, бизнес-конференции и презентации крупных технологических компаний.
Дмитрий Тимко, руководитель приложения Яндекс и Яндекс Браузера:
Мы продолжаем совершенствовать технологии, которые помогают стирать языковые границы в интернете. Например, за 10 месяцев пользователи Яндекс Браузера посмотрели 81 млн видеороликов с закадровым переводом. Потом мы взялись за субтитры, а теперь пришло и время перевода лайвов. Следующий шаг – перевод потоковых трансляций и видеороликов не только на YouTube, но и, например, в Twitch. Мы научили нейросети переводить трансляции на английском, немецком, французском, итальянском и испанском. Далее мы добавим новые пары европейских языков, а также китайский, японский и другие.
Закадровый перевод потокового видео – невероятно сложная инженерная задача. С одной стороны, для качественного перевода иностранной речи очень важен контекст, так как в разных ситуациях одно и то же слово может иметь разные значения. Нейросети выступают в роли синхронного переводчика, который начинает переводить предложение еще до того, как его закончили произносить.
Для быстрой и качественной работы в потоковом сценарии понадобилось перестроить всю архитектуру закадрового перевода видео. В случае с записанными роликами нейросеть получает всю аудиодорожку целиком, а значит, обладает полным контекстом, что облегчает задачу.
Работа с переводом прямой трансляции строится совершенно иначе:
- одна нейросеть распознает аудио и превращает его в текст буквально на лету;
- другая – определяет пол спикера по биометрии;
- третья нейросеть расставляет знаки препинания и выделяет из текста смысловые фрагменты – части, которые содержат законченную мысль;
- эти части забирает еще одна нейросеть, отвечающая за перевод, который сразу синтезируется на русском языке.
Протестировать технологию может любой пользователь Яндекс Браузера на компьютере.
Напомним, в поиске по товарам в Яндексе появилось два обновления: карточка магазина и его рейтинг.
