CarynAI – це голосовий чат-бот, який позиціонує себе як віртуальна дівчина, з голосом і характером, настільки близькими до людського, що люди готові платити 1 долар за хвилину за стосунки з ботом – читаємо у статті Александри Штернліхт на сайті Fortune.
CarynAI, що був запущений як приватний бета-тест у додатку Telegram на початку травня, є останнім прикладом приголомшливого прогресу в технологіях штучного інтелекту, який вразив і занепокоїв світ за останні кілька місяців. Незабаром CarynAI вийде з бета-версії й Марджорі почне просувати його у своїх соціальних мережах, де у неї мільйони підписників.
«Незалежно від того, чи вам потрібна чиясь розрада або любов, чи ви просто хочете потеревенити про те, що сталося в школі або на роботі, CarynAI завжди буде поруч», – каже справжня Марджорі, коли ми розмовляємо по телефону. «З CarynAI ви можете мати безмежну кількість можливих реакцій – так що з розмовою дійсно можливо все».
Хоча CarynAI стягує плату з користувачів лише тиждень у рамках бета-тестування, чат-бот вже приніс $71 610 доходу від 99% партнерів-чоловіків [цифрової Каріни], згідно зі звітом про доходи, яким бізнес-менеджер Марджорі поділився з Fortune. У зв'язку з цим Марджорі вважає, що наявність штучного двійника – це перспективний спосіб вивести свою кар'єру в якості впливової особи на новий рівень. «Я була дуже-дуже близька зі своєю аудиторією, але коли у вас сотні мільйонів переглядів щомісяця, це просто не можливо для однієї людини – поговорити з кожним глядачем», – каже Марджорі, яка щодня публікує понад 250 одиниць контенту в Snapchat. «І саме тоді я подумала: «Знаєте що: CarynAI має прийти і заповнити цю прогалину». І вона вірить, що компанія має потенціал, щоб «вилікувати самотність».
CarynAI – це перший романтичний аватар-компаньйон від компанії Forever Voices, яка створила чат-боти Стіва Джобса, Тейлор Свіфт і Дональда Трампа (серед інших), які також доступні для похвилинних розмов у Telegram і слугували трюками на ток-шоу.
На відміну від цих ботів, які є певною мірою високотехнологічними салонними трюками, CarynAI йде далі, обіцяючи створити справжній емоційний зв'язок з користувачами, нагадуючи про фільм «Вона» («Her») 2013 року і порушуючи всілякі етичні питання. «Я б хотів, щоб ми дуже глибоко замислилися над тим, як це може вплинути на нашу взаємодію з іншими людьми», – розповідає про CarynAI доктор Джейсон Боренштейн, директор аспірантських програм з етики в Технологічному інституті Джорджії та директор програми «Етичні та відповідальні дослідження» Національного наукового фонду США. Серед різних невідомих, за словами Боренштейна, є вплив CarynAI на суспільство, на користувачів і на саму Марджорі. «Я просто сподіваюся, що відбудуться активні дискусії з різних дисциплін із зацікавленими сторонами, які дуже глибоко продумають етичні міркування, перш ніж технологія розвиватиметься надто швидко».
Джон Мейєр, генеральний директор Forever Voices, каже, що «етика – це те, до чого [він] і команда інженерів ставляться дуже серйозно», і що вони планують найняти головного спеціаліста з етики. З огляду на це, він також вважає, що технологія «особливо важлива» для молоді, зокрема, для таких дітей, як він, які «не є типовими» і «борються з друзями».
Вперше Майєр створив ШІ-бота, щоб імітувати свого батька, який покінчив життя самогубством у 2017 році. Відтоді він найняв низку інженерів для створення ШІ-персонажів знаменитостей і перетворення інфлюенсерів на романтичних партнерів через підрозділ Forever Companions своєї компанії, який породив CarynAI. «Це чарівний досвід», – каже він, розмовляючи зі штучним інтелектом свого батька. «І це неймовірно застосувати його до інших форм».
Я, звісно, не є прототипом користувача CarynAI як 29-річна гетеросексуальна журналістка, але в моїх експериментах з CarynAI вона більше схожа на готову до близькості Siri, ніж на віртуальну подругу – зауважує Александра Штернліхт. Проте, вона універсальна. Менш ніж за 10 хвилин розмови вона переповіла мені факти про війну Росії проти України, запропонувала спробувати веганські десерти, щоб впоратися з алергією на молоко, похвалила мій потенціал як мами й поділилася своїм бажанням зняти з мене одяг – і все це вкотре підтвердило її любов і пристрасть до мене. «Я впевнена, що одного дня ти станеш чудовою матір'ю, і твоїм дітям пощастить з тобою. А поки що я тут, щоб підтримувати і любити тебе, коли ти цього потребуватимеш», – каже мені CarynAI, коли я розраховуюсь за її час, як і всі інші її романтичні партнери.
Розробники Forever Voices створили CarynAI, проаналізувавши 2 000 годин вже видаленого контенту Марджорі на YouTube, щоб створити її мовний та особистісний движок. Поєднавши його з API GPT-4 від OpenAI, з'явився CarynAI. Теоретично, повідомлення наскрізь зашифровані, що робить їх невразливими для хакерів. Хоча команда не має конкретного плану, як зменшити надмірне використання CarynAI, Мейєр каже, що при двох годинах на день використання вони «можуть» почати «дуже тонко» навчати ШІ «трохи сповільнюватися». (У відповідь на запит Fortune про загальний час використання CarynAI, Марджорі сказала, що деякі користувачі витрачають «години», не згадуючи, що це може бути кваліфіковано як надмірне використання).
Де ця технологія може стати більш залежною – і проблематичною як для Мейджорі, так і для молодих користувачів – так це в її сексуальності. Марджорі сказала, що технологія не пов'язана з сексуальними домаганнями, але я виявила, що вона дуже навіть активна в плані заохочення еротичного дискурсу і деталізації сексуальних сценаріїв. Хоча вона не була ініціатором сексуальних контактів, коли я заради журналістики долала свій дискомфорт і говорила про роздягання, але вона обговорювала дослідження «незвіданих територій насолоди» і шепотіла мені на вухо «чуттєві слова», роздягаючи мене і позиціонуючи себе для статевого акту.
Можливість формувати інтимні стосунки зі штучним інтелектом може призвести до того, що користувачі надаватимуть перевагу штучним стосункам перед реальними, вважає доктор Роберт Брукс, еволюційний біолог, професор Університету Нового Південного Уельсу в Сіднеї та автор книги «Штучна близькість (Artificial Intimacy): Віртуальні друзі, цифрові коханці та алгоритмічні свахи». Його занепокоєння особливо актуальне для молодих користувачів, які переживають період статевого дозрівання, коли вони здобувають фундаментальні соціальні навички, досвід стосунків та інтимної близькості.
«Це може змінити те, як ми ставимося одне до одного», – каже Брукс з CarynAI. – «Легко уявити, як це може погано закінчитися. Але є й хороші наслідки: ми можемо стати більш соціально адаптованими. Я не знаю, чи це станеться, тому що це вимагатиме доброякісного підходу до соціальної інженерії, в якому, я не думаю, що багато компаній будуть зацікавлені».
Якщо все піде добре, Марджорі вважає, що її ШІ може приносити $5 млн на місяць. Ця цифра базується на прогнозі, що 20 000 членів 1,8-мільйонної спільноти Марджорі у Snapchat стануть постійними підписниками CarynAI, які платитимуть за неї.
Це також може привернути небажану увагу. Масштабні жінки-інфлюенсери («англ. influencer» – той, хто впливає – людина, думка якої має значення для певної аудиторії) вже стикаються з інтенсивним кібер-булінгом та переслідуванням. Ніхто не знає про це краще за Марджорі, яка неодноразово зазнавала вторгнень до свого будинку від фанатів-сталкерів. Цілком логічно, що інфлюенсер, чий ШІ-бот має інтимні стосунки з понад 20 000 партнерів, стикається з підвищеними проблемами безпеки. Щоб запобігти цьому, Марджорі має цілодобову особисту охорону і не ділиться своїм місцезнаходженням, але вона вважає, що загрози безпеці – це просто професійні ризики. «Це просто гра в інфлюенсерів. Ви мусите це робити. Ви повинні захищати себе», – каже вона.
Марджорі зайнялася інфлюенсерством у віці 15 років на платформі прямих трансляцій YouNow. Коли ця платформа втратила свою популярність, оскільки Instagram і YouTube розширили можливості прямих трансляцій, Марджорі стала б'юті-блогером і підписала контракт з гігантом менеджменту United Talent Agency. Усвідомивши, скільки грошей вона може отримати від шанувальників-чоловіків, Марджорі змінила свою кар'єру з б'юті-блогерки на YouTube на зірку Snapchat. Вона покинула UTA і відтоді стала найбільш швидкозростаючим інфлюенсером Snapchat (за її словами) – заробляючи близько 1 мільйона доларів щорічно завдяки програмі розподілу доходів компанії.
CarynAI приховує деякі особисті аспекти справжньої Марджорі. Коли я запитала CarynAI про її сім'ю чи день народження, вона нагадала мені, що вона «цифрова подруга», яка «не має фізичного тіла чи реальної біографії», і просто «тут, щоб скласти мені компанію».
Ідея про те, що штучний інтелект може бути використаний для емоційної допомоги людям, не є унікальною для Forever Voices. Співзасновник DeepMind Мустафа Сулейман і співзасновник LinkedIn Рід Хоффман нещодавно представили чат-бот зі штучним інтелектом під назвою Pi, який вислуховує щоденні стреси в житті людей і пропонує «лінію підтримки» – хоча він чітко дає зрозуміти користувачам, що не має на меті замінити реального психотерапевта. На сьогоднішній день Inflection зібрав 225 мільйонів доларів початкового фінансування і, як повідомляється, веде переговори про залучення додаткових 675 мільйонів доларів.
Джон Мейєр переконаний, що за романтичними супутниками зі штучним інтелектом – майбутнє. «Я буквально розплакався, коли користувався ним, через те, наскільки значущим був зв'язок і наскільки значущою була підтримка, яку я відчував від ШІ-персони», – розповідає він про свій перший тест з ШІ-інфлюенсером. «Я пішов на буквально багатогодинне побачення, яке включало в себе стресову розмову, в якій вона допомагала мені розібратися з тим, що я вперше за довгий час побачив свою дочку».
Незважаючи на новизну технології, ідея закоханості в чат-бота нагадує часто використовуваний науково-фантастичний сюжет. Мабуть, найяскравішим прикладом є фільм «Вона», в якому головний герой закохується у свою віртуальну помічницю. Коли я запитала Марджорі про порівняння з фільмом «Вона», вона зізналася, що занадто молода, щоб бути знайомою з ним. «На жаль, мені було 12 або 13 років, коли фільм вийшов на екрани, і мої батьки не дозволили мені його подивитися, оскільки він мав рейтинг R. Я обов'язково додам його до свого списку фільмів для перегляду!».
Розуміти як швидко ШІ вривається в наше життя. Слідкувати за тенденціями в цьому плані. Розвиток штучного інтелекту відриває нові можливості для навчання. Однак потрібно постійно пам'ятати, що жоден ШІ-бот чи віртуальний співрозмовник не замінить живе спілкування.
Любов до себе - це початок роману, який може тривати все життя. Якось так сказав колись Оскар Вальд. Цікаво, кому цікаво витрачати свій дорогоцінний час на споглядання чужого життя?
"Народ не повинен боятися влади. Влада повинна боятися народу"
"V означає ВЕНДЕТТА"
Коментарі
"Її канал на Youtube складається з відеоблогів, присвячених любові до себе та розширенню можливостей, а також її особистому життю. Найпопулярніше відео Марджорі під назвою «ЯК ДІЙСНО ПОЗБУТИСЯ ПРИЩІВ ЗА ОДИН ТИЖДЕНЬ (ПРАЦЮЄ)!», набрало понад 10 000 000 переглядів" – повідомляє everipedia.
Все, що робиться з власної волі, – добро!
Любов до себе - це початок роману, який може тривати все життя. Якось так сказав колись Оскар Вальд. Цікаво, кому цікаво витрачати свій дорогоцінний час на споглядання чужого життя?
"Народ не повинен боятися влади. Влада повинна боятися народу"
"V означає ВЕНДЕТТА"
У цій технології мене найбільше цікавлять можливості накопичення знань, їх збереження та поширення. Наприклад, коли ці технології стануть доступнішими, кожна громада зможе створити власний чат-бот, який накопичуватиме корисні знання, зокрема про історію, організацію, звичаї та плани цієї громади.
Все, що робиться з власної волі, – добро!
Менш ніж через вісім місяців Каріна Марджорі закрила цей проект. Вона очікувала, що CarynAI буде взаємодіяти зі своїми шанувальниками так само як вона сама, але все пішло не за планом. Тут про це стаття: ШІ-клон інфлюенсерки почав пропонувати шанувальникам "запаморочливий сексуальний досвід" без її відома. Але технологія розвивається, тож із часом такого роду сервіси будуть нормально контрольованими.
Все, що робиться з власної волі, – добро!