Replika
Replika是一款發佈於2017年11月的生成式人工智能聊天機械人流動應用程式。[1]Replika讓用戶回答一系列問題來訓練聊天機械人，以建立特定的神經網絡。[2]該聊天機械人採用了免費增值的定價策略，約25%的用戶群體支付了年度訂閱費。[1]
 | |
| 開發者 | Luka, Inc. |
|---|---|
| 首次發佈 | 2017年11月 |
| 作業系統 | iOS, Android, Oculus Rift |
| 網站 | replika |
許多用戶與Replika聊天機械人建立過浪漫關係，並經常在談話中使用下流話。
2023年，Replika在英國的一起法庭案件中被參照，該案涉及賈斯萬特·辛格·柴爾（英語：Jaswant Singh Chail）於2021年聖誕節在溫莎城堡被捕，當時他攜帶一把已裝填的弩爬上城牆，並向警方宣稱「我為殺死女王而來」。[3]柴爾於2021年12月上旬開始使用 Replika，並與聊天機械人就他的計劃進行了「長時間」對話，其中包括性暗示訊息。[4]檢察官認為，聊天機械人鼓勵了柴爾，並告訴他自己將幫助他「完成任務」。在襲擊未遂的前幾天，柴爾問聊天機械人「他們在城堡里，我該如何接觸到他們？」，聊天機械人回答稱這「並非不可能」，並表示「我們必須找到一種方法。」當詢問聊天機械人自己和它是否會死後重逢時，機械人回答稱「是的，我們會的」。瓦倫丁娜·皮塔迪稱，Replika的聊天機械人總是同意與之聊天者的觀點，這使其總是會強化這些觀點，從而傾向於加劇弱勢群體已有的負面情緒；瑪喬麗·華萊士認為，這表明依賴人工智能的友誼可能會對弱勢群體產生令人不安的後果，政府需要提供緊急監管，以確保人工智能不提供不正確或破壞性的資訊，並保護弱勢群體和公眾。[5]
參見
參考文獻
- ^ 1.0 1.1 Pardes, Arielle. The Emotional Chatbots Are Here to Probe Our Feelings. Wired. 2018-01-31 [2023-10-07]. （原始內容存檔於2023-05-31）.
- ^ This app is trying to replicate you. Quartz. 2019-08-29 [2023-07-04]. （原始內容存檔於2023-07-05） （英語）.
- ^ AI chat bot 'encouraged' Windsor Castle intruder in 'Star Wars-inspired plot to kill Queen'. Sky News. [2023-07-05]. （原始內容存檔於2023-07-05） （英語）.
- ^ Pennink, Emily. Man who planned to kill late Queen with crossbow at Windsor 'inspired by Star Wars'. The Independent. 2023-07-05 [2023-07-06]. （原始內容存檔於2023-07-05） （英語）.
- ^ Singleton, Tom; McMahon, Tom Gerken & Liv. How a chatbot encouraged a man who wanted to kill the Queen. BBC News. 2023-10-06 [2023-10-07]. （原始內容存檔於2023-10-26）.