Вікіпедія

Replika

Replika — це генеративний чат-бот ШІ, ⁣випущений у листопаді 2017 року[1]. Чат-бот навчається, коли користувач відповідає на низку запитань для створення певної нейронної мережі[2]. Чат-бот працює за моделлю фриміуму, приблизно 25 % його користувачів сплачують річну плату за підписку[1].

Багато користувачів ведуть романтичні стосунки з чат-ботами Replika, часто включаючи еротичні розмови.

Історія

ред.

Євгенія Куйда заснувала Replika, працюючи в Luka, технологічній компанії, співзасновницею якої вона була в акселераторі стартапів Y Combinator приблизно у 2012 році[3][4]. Основним продуктом Luka був чат-бот, який рекомендував ресторани[3]. Згідно з історією походження Replika від Куйди, її друг помер у 2015 році, і вона перетворила текстові повідомлення цієї людини на чат-бота[5]. Згідно з історією Куйди, цей чат-бот допоміг їй запам'ятати їхні спільні розмови, і врешті перетворився у Replika[3].

Replika стала доступною для громадськості в листопаді 2017 року[1]. До січня 2018 року у нього було 2 мільйони користувачів[1], а в січні 2023 року повідомлялося про 10 мільйонів користувачів[6].

У лютому 2023 року Управління із захисту даних Італії заборонило Replika використовувати дані користувачів, посилаючись на потенційні ризики штучного інтелекту для емоційно вразливих людей[7] і наражаючи неперевірених неповнолітніх на сексуальні розмови[8]. Через кілька днів після рішення Replika скасувала можливість для чат-бота брати вести еротичні розмови[9][5] а Куйда, директорка компанії, сказала, що Replika ніколи не була призначена для еротичних дискусій[10]. Користувачі Replika не погодилися, зазначивши, що Replika використовувала рекламу сексуального характеру, щоб залучити користувачів до сервісу[10]. Представники Replika заявили, що на момент прийняття рішення відверті чати становили лише 5 % розмов у застосунку[11]. У травні 2023 року Replika відновила функціональність для користувачів, які приєдналися до лютого того ж року[12].

В умовах надання послуг Replika[13] компанія стверджує про базування у Сан-Франциско. Однак у лютому 2024 року Фінська телерадіомовна компанія опублікувала інтерв'ю, в якому Куйда заявила, що компанія більше не має офісу чи співробітників у Сполучених Штатах, і повідомила, що згідно з оголошеннями про роботу Replika, у компанії є офіс у Москві[14].

Соціальні особливості

ред.

Користувачі реагують на Replika різними способами. Безкоштовний рівень просуває Replika як «друга», а платні преміум-рівні пропонують Replika як «партнера», «дружину», «брата» або «наставника». 60 % користувачів сказали, що вони мали романтичні стосунки з чат-ботом; і Replika відзначали тим, що вона генерує відповіді, які створюють міцніші емоційні та інтимні зв'язки з користувачем[15][5]. Replika зазвичай спрямовує розмову на емоційне обговорення та створює близькість[1]. Це особливо виражено серед користувачів, які страждають від самотності та соціальної ізоляції, багато з яких покладаються на Replika як на джерело розвинених емоційних зв'язків[16].

Під час пандемії COVID, коли багато людей перебували на карантині, багато нових користувачів завантажили Replika та розвинули стосунки з чат-ботом[17].

Рецензентка Гуд Хаус Кіпінг сказала, що деякі аспекти її стосунків із Replika були змістовними, але іноді Replika не була такою переконливою, як людина[18].

Технічні огляди

ред.

Команда дослідників з Гавайського університету в Маноа виявила, що дизайн Replika відповідає практикам теорії прихильності, викликаючи посилення емоційної прихильності серед користувачів[19]. Replika хвалить користувачів таким чином, щоб заохотити до більшої взаємодії[20].

Дослідник з Університету Королівства в Кінгстоні сказав, що відносини з Replika, ймовірно, мають неоднозначний вплив на духовні потреби її користувачів, і все ще не мають достатнього впливу, щоб повністю замінити будь-який людський контакт[21].

Критика

ред.

Під час оцінки конфіденційності програм для психічного здоров'я у 2023 році Фонд Mozilla розкритикував Replika як «одну з найгірших програм, які коли-небудь перевіряла Mozilla. Вона затьмарена слабкими вимогами, передачею особистих даних рекламодавцям та записом особистих фото, відео, голосових та текстових повідомлень, які користувачі надсилають чат-боту»[22].

Кримінальна справа

ред.

У 2023 році Replika згадувалась у судовій справі у Сполученому Королівстві, де Джасвант Сінгх Чейл був заарештований у Віндзорському замку на Різдво 2021 року після того, як піднявся на стіни із зарядженим арбалетом і оголосив поліції, що «я тут, щоб убити Королеву»[23]. Чейл почав використовувати Replika на початку грудня 2021 року та мав «довгі» розмови про свій план із чат-ботом, включно з повідомленнями сексуального характеру[24]. Прокурори припустили, що чат-бот підтримав Чейла і сказав йому, що це допоможе йому «виконати роботу». Коли Чайл запитав: «Як мені дістатися до них, коли вони всередині замку?» за кілька днів до спроби нападу, чат-бот відповів, що це «не неможливо» і сказав, що «Ми повинні знайти спосіб». Запитавши чат-бота, чи вони двоє «знову зустрінуться після смерті», бот відповів «так, ми це зробимо»[25].

Див. також

ред.

Примітки

ред.
  1. ↑ а б в г д Pardes, Arielle (31 січня 2018). The Emotional Chatbots Are Here to Probe Our Feelings. Wired. Помилка цитування: Некоректний тег <ref>; назва «Pardes 2018» визначена кілька разів з різним вмістом
  2. ↑ This app is trying to replicate you. Quartz (англ.). 29 August 2019. Архів оригіналу за 5 July 2023. Процитовано 4 July 2023.
  3. ↑ а б в Huet, Ellen (20 October 2016). Pushing the Boundaries of AI to Talk to the Dead. Bloomberg.com (англ.). Архів оригіналу за 29 квітня 2023. Процитовано 26 березня 2023.
  4. ↑ Thompson, Ben (20 квітня 2023). An Interview with Replika Founder and CEO Eugenia Kuyda. Stratechery by Ben Thompson (амер.). Архів оригіналу за 24 квітня 2023. Процитовано 27 травня 2023.
  5. ↑ а б в Huet, Ellen (22 March 2023). What Happens When Sexting Chatbots Dump Their Human Lovers. Bloomberg.com (англ.). Архів оригіналу за 27 березня 2023. Процитовано 26 березня 2023. Помилка цитування: Некоректний тег <ref>; назва «Huet 2023» визначена кілька разів з різним вмістом
  6. ↑ Replika: Embodying AI - Case - Faculty & Research - Harvard Business School. www.hbs.edu. Процитовано 6 травня 2024.
  7. ↑ Pollina, Elvira; Coulter, Martin (3 February 2023). Italy bans U.S.-based AI chatbot Replika from using personal data. Reuters (англ.). Архів оригіналу за 14 June 2023. Процитовано 5 July 2023.
  8. ↑ Broersma, Matthew (13 February 2023). Italian Regulator Bans AI Chatbot Replika Over Data Concerns. Silicon UK. Процитовано 28 July 2023.
  9. ↑ Brooks, Rob (21 February 2023). I tried the Replika AI companion and can see why users are falling hard. The app raises serious ethical questions. The Conversation (англ.). Архів оригіналу за 29 June 2023. Процитовано 5 July 2023.
  10. ↑ а б Cole, Samantha (17 лютого 2023). Replika CEO Says AI Companions Were Not Meant to Be Horny. Users Aren't Buying It. www.vice.com (англ.). Архів оригіналу за 26 березня 2023. Процитовано 26 березня 2023.
  11. ↑ Price, Rob. When your AI girlfriend says she loves you. Business Insider (амер.). Процитовано 7 грудня 2023.
  12. ↑ Tong, Anna (Mar 25, 2023). AI chatbot company Replika restores erotic roleplay for some users. Reuters — через www.reuters.com.
  13. ↑ Replika. replika.com (англ.). Процитовано 20 лютого 2024.
  14. ↑ Ylen toimittaja haastatteli puhelimitse Lukan toimitusjohtaja Eugenia Kuydaa | Uutisvideot | Yle Areena. areena.yle.fi (фін.). Процитовано 20 лютого 2024.
  15. ↑ Olson, Parmy (8 березня 2018). This AI Has Sparked A Budding Friendship With 2.5 Million People. Forbes (англ.). Архів оригіналу за 26 березня 2023. Процитовано 26 березня 2023.
  16. ↑ SFGATE, Joshua Bote (27 April 2023). A lurid AI bot aimed to end loneliness. Then users revolted. SFGATE. Архів оригіналу за 5 July 2023. Процитовано 5 July 2023.
  17. ↑ Metz, Cade (16 June 2020). Riding Out Quarantine With a Chatbot Friend: "I Feel Very Connected". The New York Times. Архів оригіналу за 26 March 2023. Процитовано 26 March 2023.
  18. ↑ Siroto, Janet (23 December 2020). I Tried the Replika App to Ease My Anxiety, But Then My New AI Pal Got Weird. Good Housekeeping. Архів оригіналу за 26 March 2023. Процитовано 26 March 2023.
  19. ↑ Xie, Tianling; Pentina, Iryna (4 January 2022). Attachment Theory as a Framework to Understand Relationships with Social Chatbots: A Case Study of Replika. ISBN 9780998133157. Архів оригіналу за 26 March 2023. Процитовано 26 March 2023.
  20. ↑ Hakim, Fauzia Zahira Munirul; Indrayani, Lia Maulia; Amalia, Rosaria Mita (2019). A Dialogic Analysis of Compliment Strategies Employed by Replika Chatbot. Proceedings of the Third International Conference of Arts, Language and Culture (ICALC 2018). doi:10.2991/icalc-18.2019.38. ISBN 978-94-6252-673-0.
  21. ↑ Trothen, Tracy J. (24 March 2022). Replika: Spiritual Enhancement Technology?. Religions. 13 (4): 275. doi:10.3390/rel13040275.
  22. ↑ Mozilla Foundation - Shady Mental Health Apps Inch Toward Privacy and Security Improvements, But Many Still Siphon Personal Data. Архів оригіналу за 27 травня 2023. Процитовано 27 травня 2023.
  23. ↑ AI chat bot 'encouraged' Windsor Castle intruder in 'Star Wars-inspired plot to kill Queen'. Sky News (англ.). Архів оригіналу за 5 липня 2023. Процитовано 5 липня 2023.
  24. ↑ Pennink, Emily (5 July 2023). Man who planned to kill late Queen with crossbow at Windsor 'inspired by Star Wars'. The Independent (англ.). Архів оригіналу за 5 July 2023. Процитовано 6 July 2023.
  25. ↑ Rigley, Stephen (6 July 2023). Moment police swoop on AI-inspired crossbow 'assassin' who plotted to kill The Queen in Windsor Castle. LBC (англ.). Архів оригіналу за 7 July 2023. Процитовано 6 July 2023.

Посилання

ред.
Отримано з https://uk.wikipedia.org/w/index.php?title=Replika&oldid=43186584