Насправді, майже несправедливо зобов’язувати технологічну компанію дотримуватися її місії. Від девізу «Не будь злим» від Google до «Підніміть свідомість світу» від WeWork, місії зазвичай пишуться в юності компанії, в той незручний момент, коли їхні мрії тягнуться до горизонту, венчурні капіталісти посміхаються, і ніхто не чув терміну «фідуціарна відповідальність». Це як судити когось на основі почуттів, висловлених на звороті шкільного щорічника.
Але OpenAI, ви просуваєте це.
Перейдіть на сторінку «Про компанію», і ви все ще прочитаєте ці слова, які вперше з’явилися в її статуті 2018 року, через три роки після заснування: «Наша місія полягає в тому, щоб забезпечити, щоб штучний інтелект – системи штучного інтелекту, які загалом розумніші за людей – приносив користь усьому людству». Це, м’яко кажучи, не те, чого вони завжди дотримувалися, як показали деякі висвітлення діяльності компанії у Future Perfect. (Розкриття інформації: Vox Media – одне з кількох видавництв, які підписали партнерські угоди з OpenAI. Наші репортажі залишаються редакційно незалежними.)
Слухай, якби ви запитали мене, якою була моя місія, коли мені було 3 роки, вона, мабуть, була б такою: «Стати першим гравцем НБА, який висадиться на Марс». Ми не завжди досягаємо того, що задумали. Пріоритети змінюються, ти не виростаєш до 213 см, виявляється, ти боїшся космосу — ти розумієш, про що я.
Але зі своїм останнім продуктом — відеосоціальною мережею Sora 2, створеною за допомогою штучного інтелекту — OpenAI, можливо, встановив рекорд за всю історію щодо найбільшої відстані між заявою про місію та фактичною роботою.
Нескінченні порції штучного інтелекту
Найкращий спосіб зрозуміти Sora 2 полягає в тому, що вона поєднує, мабуть, найгірший аспект великих мовних моделей, таких як ChatGPT — їхню потужну здатність захоплювати користувачів — з тим, що є безперечно найгіршим аспектом сучасних медіа: нескінченним гортанням бездумних вертикальних відео, яке, серед інших негативних наслідків, зменшило тривалість нашої уваги.
Це як взяти героїн і змішати його з… я не знаю, чи існує наркотик, який викликає сильну залежність, змушує вас розвисати щелепи перед екраном і віднімає кілька десятків балів IQ? Героїн, з, типу, більшою кількістю героїну? Я насправді не впевнений, що маю досвід вживання наркотиків, щоб відповісти на це питання.
Основні проблеми, що виникають через надто реальні відео, згенеровані штучним інтелектом, очевидні та матеріалізувалися майже миттєво після запуску Sora 2 на початку цього тижня.
Цю історію вперше було опубліковано в інформаційному бюлетені Future Perfect.
Зареєструйтесь тут, щоб дослідити великі, складні проблеми, з якими стикається світ, та найефективніші способи їх вирішення. Надсилаємо двічі на тиждень.
Візьмемо, наприклад, порушення авторських прав. Одне з перших відео Sora 2, на яке я натрапив, було ідеально відрендереним Ріком і Морті, які відвідують Губку Боба Квадратні Штани, і так, моя душа трохи померла, коли я написав це речення. Виявляється, OpenAI налаштував Sora 2 так, щоб за замовчуванням дозволяти матеріали, захищені авторським правом, поклавши на власників інтелектуальної власності обов'язок проактивно просити OpenAI, будь ласка, видалити їхній матеріал. Що вона і зробить — хоча й не раніше, ніж OpenAI пожне ажіотаж у соціальних мережах від усіх цих клонів Ріка і Морті, як це було під час короткочасного захоплення вашими фотографіями за допомогою Studio Ghiblify. (Я знаю, що вони у вас усіх досі десь є.)
А ще є діпфейки. Одна з головних особливостей Sora 2 полягає в тому, що ви можете завантажити своє зображення в додаток, а потім вставити його в будь-яке відео, згенероване штучним інтелектом, або дозволити це зробити своїм друзям, або — якщо ваша особиста позиція хаотично нейтральна — дозволити будь-якому користувачеві Sora використовувати її. Ну, як повідомляла Washington Post, знадобилося близько п'яти секунд, перш ніж почали створюватися кліпи з підробленими кадрами з поліцейських нагрудних камер; справжніми людьми, одягненими як нацистські генерали; дуже реалістичними, але підробленими кадрами історичних подій; і так, генеральним директором OpenAI Сема Альтмана, який краде в магазинах.
Це означає, що саме в той момент, коли президент Сполучених Штатів публікує, очевидно, згенеровані штучним інтелектом діпфейкові відео лідера меншості Демократичної партії в Палаті представників у сомбреро та з вусами, OpenAI щойно надав американцям — принаймні тим, хто має код доступу до Sora 2 — цілком реалістичне підроблене відео одним натисканням кнопки. І створив соціальну мережу, схожу на TikTok, у якій ним можна було поділитися. Хоча добре, що OpenAI включив правила, що забороняють видавання себе за іншу особу, шахрайство та шахрайство, а також захисні бар'єри для блокування оголених тіл та графічного насильства, це трохи схоже на те, як сказати, що автоматична зброя з запобіжником абсолютно нешкідлива.
Чомусь я сумніваюся, що щось із цього «принесе користь усьому людству». Але це майже напевно принесе користь прибутку OpenAI, в той момент, коли компанію щойно оцінили в 500 мільярдів доларів — випередивши навіть SpaceX — і коли чутки про бульбашку штучного інтелекту стає неможливо ігнорувати. (Швидко, Сора 2, згенеруй мені відео того, що залишиться від економіки США, коли єдина галузь, яка її рухає, збожеволіє!)
Кому це вигідно?
Отже. Що ж про все це думає Сем Альтман? На щастя, Сем веде блог щонайменше з 2013 року, ще з того часу, як розмірковував про можливе існування інопланетян. Він написав, що «Сора 2» – це «момент «ChatGPT для творчості», який може призвести до «кембрійського вибуху», де «якість мистецтва та розваг може різко зрости».
Який… я гадаю? Звичайно, посткембрійська епоха призвела до появи досить дивних істот, таких як Туллімонструм, або «монстр Туллі» – істота зі стеблистоподібними очима та хапальним шлангом замість рота, яка виглядає як щось, що можна було б отримати, якби Бог зміг знайти код доступу до Sora 2. Якщо бездумна машина для реміксів діпфейків, якою є Sora 2, – це те, що в майбутньому вважатиметься креативністю, то просто дайте мені штучний інтелект, що максимізує скріпки.
Але, мабуть, найгірше в Sora 2 — та подібних генераторах штучного інтелекту від Meta — те, що вони затьмарюють роботу ШІ, яка насправді могла б принести користь усьому людству. Того ж тижня, коли OpenAI представив нам Sora 2, низка вигнанців з великих компаній, що займаються штучним інтелектом, оголосили про запуск Periodic Labs, стартапу, метою якого є використання штучного інтелекту для прискорення відкриттів у фізиці, хімії та інших наукових галузях. Знаєте, речей, які ми могли б реально використовувати.
Можливо, з мого боку, це надто спрощено просити найкращі та найвище оплачувані уми мого покоління, які працюють у компаніях, що займаються штучним інтелектом, робити, наприклад, це, а не те. Зрештою, OpenAI — це бізнес. (Або некомерційна організація? Або корпорація, що надає суспільне благо? Чесно кажучи, зараз це трохи під питанням.) Він виконує те, що диктує ринок. Це означає, що остання лінія захисту для нас, користувачів світу, — це встати і сказати: «Ні, я не їстиму ваші помиї ШІ».
Звісно, після останньої перевірки, Сора була №3 у чарті додатків для iPhone. Ми всі в халепі.
