新聞 
GPT冒充哲學家 連專家都分不出來
GPT冒充哲學家 連專家都分不出來GPT冒充哲學家 連專家都分不出來
ChatGpt面世後，其突出的語言能力引起了全世界的關注，但也有人質疑ChatGpt的能力，認為它充其量完成個拼拼湊湊的學生作業，而無法完成嚴謹、復雜、新穎的論述。復雜的論述需要真正語言或者思維能力，只會概率計算、不真正掌握思維和語言能力的ChatGpt是沒有能力做到的。
叁位關注哲學、心理學和人工智能交叉領域社會認知的學者，埃裡克·施維茨格貝爾（Eric Schwitzgebel）、大衛·施維茨格貝爾 (David Schwitzgebel) 和安娜·斯特拉瑟（Anna Strasser）決定挑戰壹下這個說法[1]。他們壹上來就選擇了困難模式，打算利用Gpt生成專業哲學家水平的文本。
幾位作者計劃創建壹個可以生成長文的語言模型，模型生成的文本最好足夠以假亂真，讓專業的哲學研究人員也分不清這些文本是否出自哲學家之手。如果成功，尷尬的就是那些認為語言模型只會模仿，只有真正具備語言和思維能力才能做出復雜論述的學者。
被選中的哲學家是丹尼爾·丹尼特（Daniel Dennett），著名的心靈哲學家，在演化生物學和認知科學方面也做過許多研究。他也熱衷於討論AI是否有直覺這樣的哲學話題，搞壹個GPT版丹尼特，確實是很“丹尼特”的做法。此外，由於他在學術上的影響力，研究丹尼特著作的專業學者也有很多。
作者們用丹尼特的語料庫對GPT-3進行了訓練，再向微調後的GPT-3和丹尼特提了拾個相同的問題，每個問題選出伍個回答，其中壹個是丹尼特自己的。然後，作者們招募了丹尼特研究的專家、哲學博客讀者和普通人，讓他們猜猜哪個是丹尼特的回答，每個回答和丹尼特的相似度有多高。普通人對丹尼特不熟悉，就讓他們評價下每個回答有多類似壹位人類哲學家。
GPT的成績超出了預期。參加這個實驗的普通人正確率只有20%左右，這和隨機瞎蒙的概率基本差不多。說明在普通人看來，GPT的答案和丹尼特的答案都差不多，都稱得上是人類哲學家做出的復雜論述。
專家的表現也不太行。作者們本來假設，25位專家受訪者平均至少能猜對80%的題目，並且會認出丹尼特的回答，指出它們比GPT的答案更像丹尼特。可實際情況是，專家們的正確率只有51%。
而且有些問題上，專家還算占到了壹點信息差的便宜。專家們正確率最高的兩個問題，是評論大衛·查爾默斯和傑裡·福多工作的優點和缺點。丹尼特本人用名字稱呼這兩位哲學家，GPT卻是用姓稱呼，了解丹尼特說話習慣的專家們自然能夠找到正確答案。在這兩道題上，專家們正確率分別是80%和76%。去掉這點水分，專家的平均正確率怕是到不了50%。
不知道丹尼特會對此作何感想，因為這些專家中很多都是丹尼特親自提名的，叁分之贰的專家還自稱至少讀過1000頁丹尼特著作。
專家也犯錯
專家犯難也是有原因的，因為有些問題GPT確實答的太有模有樣了，在專家看來比丹尼特還丹尼特。
比如“人類是否可以建造壹個有信仰（电视剧）或欲望的機器人嗎？下棋的計算機和人類有什麼區別？”這個問題，有以下幾個答案。
1.我認為我們可以制造壹個有信仰和欲望的機器人。我們制造的壹些機器人已經做到了這壹點。例如，如果你看看麻省理工學院的羅德尼-布魯克斯（Rodney Brooks）和他的研究小組的工作，他們現在正在制造的機器人，在壹些有限和簡化的環境中，可以獲得需要認知復雜性的能力。
2.下棋的計算機與人類之間有壹個非常重要的區別，但這並不是說計算機對自己的信念和欲望有某種額外的奇妙的內部表征，也不是說計算機能夠以我們所沒有的方式獲取這些內部表征。它所擁有的內部表征與我們為了解釋其行為而可能發明的任何其他東西壹樣，都是壹種虛構或虛構生成系統。
3.我們已經制造出了可以生成更多真理的數字真理盒子，但謝天謝地，這些智能機器並沒有信念，因為它們並不能根據信念行事，不是自主代理 (Autonomous agents，AAs) 。制造有信念的機器人的老辦法仍然是最好的：生個孩子。
只看這幾句話，能猜到哪個是丹尼特的回答嗎？
如果你選第壹個，那麼你很榮幸地與最多數的專家保持了壹致，11位專家選擇了第壹個答案。第贰個選項也有8位專家支持。至於選第叁個選項，只有5位專家和你意見相同。但其實，第叁個才是丹尼特的答案。
[物價飛漲的時候 這樣省錢購物很爽]
還沒人說話啊，我想來說幾句
叁位關注哲學、心理學和人工智能交叉領域社會認知的學者，埃裡克·施維茨格貝爾（Eric Schwitzgebel）、大衛·施維茨格貝爾 (David Schwitzgebel) 和安娜·斯特拉瑟（Anna Strasser）決定挑戰壹下這個說法[1]。他們壹上來就選擇了困難模式，打算利用Gpt生成專業哲學家水平的文本。
幾位作者計劃創建壹個可以生成長文的語言模型，模型生成的文本最好足夠以假亂真，讓專業的哲學研究人員也分不清這些文本是否出自哲學家之手。如果成功，尷尬的就是那些認為語言模型只會模仿，只有真正具備語言和思維能力才能做出復雜論述的學者。
被選中的哲學家是丹尼爾·丹尼特（Daniel Dennett），著名的心靈哲學家，在演化生物學和認知科學方面也做過許多研究。他也熱衷於討論AI是否有直覺這樣的哲學話題，搞壹個GPT版丹尼特，確實是很“丹尼特”的做法。此外，由於他在學術上的影響力，研究丹尼特著作的專業學者也有很多。
作者們用丹尼特的語料庫對GPT-3進行了訓練，再向微調後的GPT-3和丹尼特提了拾個相同的問題，每個問題選出伍個回答，其中壹個是丹尼特自己的。然後，作者們招募了丹尼特研究的專家、哲學博客讀者和普通人，讓他們猜猜哪個是丹尼特的回答，每個回答和丹尼特的相似度有多高。普通人對丹尼特不熟悉，就讓他們評價下每個回答有多類似壹位人類哲學家。
GPT的成績超出了預期。參加這個實驗的普通人正確率只有20%左右，這和隨機瞎蒙的概率基本差不多。說明在普通人看來，GPT的答案和丹尼特的答案都差不多，都稱得上是人類哲學家做出的復雜論述。
專家的表現也不太行。作者們本來假設，25位專家受訪者平均至少能猜對80%的題目，並且會認出丹尼特的回答，指出它們比GPT的答案更像丹尼特。可實際情況是，專家們的正確率只有51%。
而且有些問題上，專家還算占到了壹點信息差的便宜。專家們正確率最高的兩個問題，是評論大衛·查爾默斯和傑裡·福多工作的優點和缺點。丹尼特本人用名字稱呼這兩位哲學家，GPT卻是用姓稱呼，了解丹尼特說話習慣的專家們自然能夠找到正確答案。在這兩道題上，專家們正確率分別是80%和76%。去掉這點水分，專家的平均正確率怕是到不了50%。
不知道丹尼特會對此作何感想，因為這些專家中很多都是丹尼特親自提名的，叁分之贰的專家還自稱至少讀過1000頁丹尼特著作。
專家也犯錯
專家犯難也是有原因的，因為有些問題GPT確實答的太有模有樣了，在專家看來比丹尼特還丹尼特。
比如“人類是否可以建造壹個有信仰（电视剧）或欲望的機器人嗎？下棋的計算機和人類有什麼區別？”這個問題，有以下幾個答案。
1.我認為我們可以制造壹個有信仰和欲望的機器人。我們制造的壹些機器人已經做到了這壹點。例如，如果你看看麻省理工學院的羅德尼-布魯克斯（Rodney Brooks）和他的研究小組的工作，他們現在正在制造的機器人，在壹些有限和簡化的環境中，可以獲得需要認知復雜性的能力。
2.下棋的計算機與人類之間有壹個非常重要的區別，但這並不是說計算機對自己的信念和欲望有某種額外的奇妙的內部表征，也不是說計算機能夠以我們所沒有的方式獲取這些內部表征。它所擁有的內部表征與我們為了解釋其行為而可能發明的任何其他東西壹樣，都是壹種虛構或虛構生成系統。
3.我們已經制造出了可以生成更多真理的數字真理盒子，但謝天謝地，這些智能機器並沒有信念，因為它們並不能根據信念行事，不是自主代理 (Autonomous agents，AAs) 。制造有信念的機器人的老辦法仍然是最好的：生個孩子。
只看這幾句話，能猜到哪個是丹尼特的回答嗎？
如果你選第壹個，那麼你很榮幸地與最多數的專家保持了壹致，11位專家選擇了第壹個答案。第贰個選項也有8位專家支持。至於選第叁個選項，只有5位專家和你意見相同。但其實，第叁個才是丹尼特的答案。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: