智能時代,為什麼越來越多人愛上AI伴侶
不要讓AI給你提太多建議
人們對對話式人工智能保持警惕的理由有很多：欺詐、監控、政治操縱。但專注於日常應用的米勒認為，人們過度依賴人工智能提供建議尤其令人擔憂。像Claude和ChatGPT這樣的系統經常被譽為超級智能，甚至比人類顧問更勝壹籌。不久前，壹個關於“Claude男孩”的梗開始流傳，這些青少年動不動就向Claude尋求建議。壹名使用者將使用LLM（大語言模型）比作與上帝對話：祈禱的不是結果，而是關於如何生活的答案。
福克納大學法學院的約翰·G·布朗寧法官指出，人工智能伴侶可能會通過鼓勵暴力和自殘行為而傷害用戶。除了潛在的身體傷害外，布朗寧還認為人工智能伴侶會危及用戶的數據隱私。他指出，虛擬伴侶需要用戶的個人信息和偏好才能有效地提供情感支持。他認為，人工智能公司缺乏完善的安全系統，並且會將用戶信息出售給第叁方用於定向廣告。盡管近期的壹些訴訟促使部分人工智能公司加強了隱私保護措施，但隨著該行業的不斷發展，監管機構應該加大監管力度。
福特漢姆大學法學院副教授欽邁伊·夏爾馬（Chinmayi Sharma）認為，問題的核心不在於人工智能本身，而在於工程師缺乏構建更安全系統的知識或動力，因為企業更傾向於追求利潤而非開發對社會有益的產品。因此必須對人工智能工程師實行許可制度，要求其遵守特定領域的技術和倫理標准，並運用職業紀律和類似醫療事故問責制的機制，從設計之初就構建值得信賴的人工智能。
當然，除了對人工智能進行監管之外，用戶的自我意識覺醒也非常重要。長期以來，數字聊天的刺激感源於人們理所當然地認為，每壹個用戶名背後都代表著壹個真實的人。但真人在關系中可能不可靠、愛評判他人、粗心大意、記仇、要求苛刻。人工智能可以輔助思考和溝通，但壹段關系的實質仍然需要伴侶之間實時做出選擇來建立和修復。“所以，如果你想要壹個更細致入微的人類答案，那就直接問問你生活中那些說‘XYZ’的人，他們到底是什麼意思。”評論家貝絲·戴利（Beth Daley）寫道。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: