Microsoft представила нові технології для боротьби з дезінформацією

Microsoft представила 2 нові технології, що допоможуть боротись з  дезінформацією.

Комментарии 1074
Про це в блозі компанії написали представники Microsoft Том Барт (Tom Burt), корпоративний віцепрезидент з безпеки та довіри користувачів, та Ерік Хорвіц (Eric Horvitz), керівник наукового відділу. Перша технологія, Microsoft Video Authenticator, покликана визначати діпфейки у медіафайлах, а друга — визначатиме контент в медіа, який використовується в маніпулятивних цілях. 

Київ, 7 вересня 2020 р. — В рамках Програми захисту демократії від Microsoft були представлені дві технології, які допоможуть в боротьбі з дезінформацією. Програма спрямована на підтримку чесних виборів та безпечності проведення кампаній в рамках демократичного процесу. Оскільки дезінформація може проявлятись у різних формах і одна технологія не зможе допомогти людям відрізнити, де правда, Microsoft розробила дві окремі технології, які вирішать різні аспекти даної проблеми. 

Основна проблема — це, так звані, діпфейки (deepfakes), або синтетичне медіа — фото, відео або аудіофайли, змінені штучним інтелектом, та їх важко відрізнити від оригіналу. Тому Microsoft анонсувала Video Authenticator, який здатний аналізувати фото чи відео для визначення ймовірності та оцінки довіри до того, чи медіафайли не були штучно змінені. У випадку відео дана технологія може показувати відсоток ймовірності справжності файлу у реальному часі для кожного кадру під час відтворення відео. Дана технологія ідентифікує межу накладення діпфейку, яку не визначити людським оком. Ця технологія була розроблена Microsoft Research у співробітництві з командою Microsoft, відповідальною за ШІ, а також Комітетом Microsoft по ШІ, етиці та впливу розробки та досліджень (AETHER), який допомагає забезпечувати розробку та залучення нових технологій. Video Authenticator був створений з використанням загальнодоступного набору даних Face Forensic++. 

Інша технологія допоможе як визначити контент, який використовується в маніпулятивних цілях, так і переконати людей у справжності переглянутих медіафайлів. Вона складається з 2 компонентів: перший — це інструмент, вбудований у Microsoft Azure, а інший — зчитувач. Ця технологія була розроблена Microsoft Research та Microsoft Azure у партнерстві з Програмою захисту демократії. 

В ході дослідження Microsoft за підтримки професора Джейкоба Шапіро (Jacob Shapiro) з Принстонського університету було виявлено 96 кампаній під іноземним впливом в соціальних мережах в період з 2013 по 2019 рр. Ці кампанії мали на меті зганьбити відомих людей, переконати громадськість чи популяризувати дебати. Результати по 30 країнам показали, що близько 93% кампаній включали створення оригінального контенту, 86% доповнювали вже наявний контент, а 74% спотворювали об’єктивно перевірені факти. Недавні звіти також показали, що широко розповсюджувалась дезінформація про пандемію COVID-19. Це призвело до смерті та госпіталізації людей, які лікувались препаратами, що насправді були небезпечними.

За матеріалами прес-релізу
Обсудить с другими читателями:
Effie
Погода