ChatGPT露骨涉性對話,令OpenA顧問驚懼
OpenAI首席執行官山姆·阿爾特曼(Sam Altman)去年曾提出壹個想法：讓其聊天機器人ChatGPT能夠進行色情對話，並取消對此類限制級內容的禁令。他給出的理由是需要“把成年用戶當成年人對待”。
該計劃在公司內部引發了關於潛在風險的激烈辯論。顧問委員會的成員們也表達了強烈的保留意見，他們擁有心理學和認知神經科學等領域的背景。
接著，OpenAI拋出了壹個重磅消息：盡管存在種種顧慮，但公司仍繼續推進其色情內容計劃。
據知情人士透露，當顧問委員會成員們在1月舉行會議時，他們意見壹致，並且感到憤怒。他們警告說，由AI驅動的色情內容可能會讓用戶對ChatGPT產生不健康的情感依賴，而且未成年人可能會想方設法接觸到色情聊天。
這些知情人士稱，壹名顧問委員會成員援引了壹些案例，在這些案例中，ChatGPT用戶在與該機器人建立起強烈的情感紐帶後結束了自己的生命。該成員聲稱，OpenAI有可能會創造出壹個“性感的自殺教練”。
各界壹直在持續探討如何預判AI對經濟、社會和個人的潛在正負面影響，而這場辯論正是這壹持續對話中的最新引爆點。
擬在廣受歡迎的聊天機器人中放開露骨涉性對話，暴露出OpenAI在平衡“用戶快速增長和數字自由”與“安全和兒童保護”方面的分歧。許多人認為，這些問題在上壹代社交媒體問世時，就未能得到及時正視。
本月早些時候，OpenAI宣布將推遲“成人模式”的發布，該功能原定於第壹季度推出。該公司稱，正在優先開發其他產品。知情人士表示，這壹變動的部分原因還在於內部的擔憂和技術上的挑戰。但該公司明確表示，最終仍計劃推出這壹功能。
據知情人士稱，該公司正在解決的壹個問題是：旨在防止未成年人進行成人主題聊天的新年齡預測系統，壹度出現約12%的誤判率，將未成年人誤認為成年人。這壹錯誤率可能導致該公司每周約1億未成年用戶中的數百萬人進入色情聊天。
知情人士還說，該公司還壹直在努力解決壹個難題：如何在解除ChatGPT色情內容限制的同時，仍然阻止那些公司希望禁止的場景，例如涉及非自願行為或兒童性虐待的內容。當“成人模式”推出時，OpenAI計劃允許文本對話，但會限制ChatGPT生成色情圖片、語音或視頻的能力。
根據《華爾街日報》(The Wall Street Journal)看到的文件，即便在這些限制之內，OpenAI的員工也已識別出多項風險，包括可能導致上癮式使用、對聊天機器人產生情感過度依賴、驅使用戶尋求更極端或禁忌的內容，以及擠占線下的社交和戀愛關系。
壹位OpenAI發言人將該計劃描述為允許ChatGPT生成帶有成人主題的文本聊天，並稱其為情色內容，而非色情內容。該發言人補充說，公司的年齡預測算法表現與行業水平相當，但永遠不可能萬無壹失。
該發言人還說，OpenAI也訓練其模型不要鼓勵用戶與之建立排他性關系，並提醒用戶需要在現實世界中建立人際關系。
該公司已經聘請了心理健康專家，並組建了壹支青少年福祉團隊。該公司還說，其已制定了壹項計劃，用以監測“成人模式”可能帶來的壹系列長期影響，包括正面影響和負面影響。
阿爾特曼推出“成人模式”的計劃正值其公司面臨挑戰之際。隨著該公司為吸引用戶和資金而展開競爭，其相對於AI競爭對手的技術領先優勢已經減弱。該公司的財務虧損正在擴大，多起訴訟指控ChatGPT給用戶和其他人帶來了傷害。
科技前沿
長期以來，從攝影、互聯網到虛擬現實，色情內容往往是新技術早期的伴生物。AI也是如此。包括Character. AI在內的壹些公司已經推出了能與用戶發展親密關系的聊天機器人，色情行業也已采用生成式AI來制作成人娛樂內容。
大型科技公司與露骨內容的關系壹直很復雜，它們試圖在硅谷的自由意志主義精神、廣告支持業務的需求以及保護未成年人上網的責任之間取得平衡。Meta Platforms禁止在Facebook和Instagram上出現裸露和性行為內容。Alphabet旗下的YouTube禁止旨在滿足性欲的露骨內容，谷歌(Google)搜索則默認模糊其結果中的露骨圖片。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: