AI正在讓制造病毒更容易 大佬罕見聯名上書
壹直以來，OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis、Anthropic 的 Dario Amodei，這叁家頂級 AI 公司的負責人很少在同壹件事情上站在壹起。但是他們最近聯合簽署了壹封寫給美國國會的信，要求立法強制合成 DNA 和 RNA 的公司對客戶訂單開展安全篩查。
信裡說 AI 正在快速進步，曾經那些能夠阻止壞人獲得生物武器的知識門檻有可能被大幅削弱。事實上，2017 年就有加拿大研究人員花 10 萬美元從郵購渠道買到了 DNA 片段，並以壹己之力拼出了已經滅絕的馬痘病毒，而同樣的方法完全可以用於制造致命的天花病毒。
合成 DNA 由來已久，從 20 世紀 50 年代科學家首次成功合成 DNA 以來，這個過程早已高度自動化。全球有幾拾家公司使用商用合成儀來打印定制基因序列，然後賣給科研機構、藥廠和診斷實驗室，壹般來說合法客戶會用它來開發疫苗和實現生物技術突破。
問題在於不是每壹家供應商都會仔細審核客戶身份，也不是每壹家供應商都會檢查訂單裡的基因片段有沒有危險。雖然有的供應商只賣給合格的研究機構，但也有人根本不管買家是誰以及要買什麼。這時那些心懷不軌的人，完全可以混進去下單。
AI 的發展讓這件事變得更麻煩了，以前壞人想做生物武器缺的主要是知識。因為你得知道哪些基因片段組合起來能夠產生毒素，還得知道如何把它們組裝成壹個具備功能的病毒，以前這些知識的門檻很高。AI 則降低了這壹門檻，它會把分散在論文、數據庫、專利裡的零散信息拼在壹起，直接告訴不法分子去哪裡可以找到不被篩查的供應商，甚至教不法分子通過修改訂單來讓篩查軟件檢測不到。
美國斯坦福大學的微生物學家兼生物安全專家 David Relman 也參與了這封信的簽署，他說 AI 能讓使用者快速找到那些不做篩查的供應商，還能告訴使用者如何改變訂單的性質，這樣壹來即使是那些做篩查的公司也更難發現壹個人想做什麼。
篩查技術本身也存在不足，去年微軟研究人員發表了壹項論文，他們使用 AI 蛋白質設計工具生成了很多存在潛在危險的基因序列，然而這些序列竟然成功繞過了多家公司的篩查軟件。這是因為 AI 會推薦和已知危險蛋白質結構相似的新序列，而現有篩查工具完全沒見過這些新東西。
早期篩查軟件主要對照已知那些的危險序列清單，這就導致壞人稍微改壹下序列的排列方式就有可能蒙混過關。事實上，這個問題在學術圈已經討論了很多年，但是壹直沒有形成具有法律約束力的規則。
說回這次聯名信，其組織方是兩個科技政策智庫，在特點上壹個偏向進步派、壹個偏向自由意志派，其實這兩個陣營在很多問題上都曾吵得不可開交，但卻在生物安全這件事上罕見地達成了壹致。
除了開頭那叁位大佬，簽署人還包括微軟 AI 負責人 Mustafa Suleyman、Meta 首席 AI 官 Alexandr Wang，以及 Twist Bioscience 和 Ansa Biotechnologies 等合成基因公司的負責人。
另據悉，川普政府上台之後撤銷了拜登時期的壹項行政令，那項行政令要求受聯邦資助的科學家和公司只能從進行訂單篩查的供應商那裡購買合成基因。
去年，白宮表示會推出自己的篩查指南，然而至今沒有發布替換政策。那些支持立法的人們認為，只有國會通過正式法律，才能讓所有在美國運營的合成 DNA 供應商都來遵守統壹的篩查標准，不管他們是否收到聯邦資金資助。今年早些時候，美國參議院也已經提出壹項跨黨派法案，不過還沒有獲得足夠的推進動力。
另壹方面，反對者也有他們自己的理由，他們認為到底什麼樣的基因組合算是危險的，這個判斷標准本身就是主觀的，並認為強制篩查會增加合規成本，還有可能打擊初創公司。
[加西網正招聘多名全職sales 待遇優]
無評論不新聞，發表壹下您的意見吧
信裡說 AI 正在快速進步，曾經那些能夠阻止壞人獲得生物武器的知識門檻有可能被大幅削弱。事實上，2017 年就有加拿大研究人員花 10 萬美元從郵購渠道買到了 DNA 片段，並以壹己之力拼出了已經滅絕的馬痘病毒，而同樣的方法完全可以用於制造致命的天花病毒。
合成 DNA 由來已久，從 20 世紀 50 年代科學家首次成功合成 DNA 以來，這個過程早已高度自動化。全球有幾拾家公司使用商用合成儀來打印定制基因序列，然後賣給科研機構、藥廠和診斷實驗室，壹般來說合法客戶會用它來開發疫苗和實現生物技術突破。
問題在於不是每壹家供應商都會仔細審核客戶身份，也不是每壹家供應商都會檢查訂單裡的基因片段有沒有危險。雖然有的供應商只賣給合格的研究機構，但也有人根本不管買家是誰以及要買什麼。這時那些心懷不軌的人，完全可以混進去下單。
AI 的發展讓這件事變得更麻煩了，以前壞人想做生物武器缺的主要是知識。因為你得知道哪些基因片段組合起來能夠產生毒素，還得知道如何把它們組裝成壹個具備功能的病毒，以前這些知識的門檻很高。AI 則降低了這壹門檻，它會把分散在論文、數據庫、專利裡的零散信息拼在壹起，直接告訴不法分子去哪裡可以找到不被篩查的供應商，甚至教不法分子通過修改訂單來讓篩查軟件檢測不到。
美國斯坦福大學的微生物學家兼生物安全專家 David Relman 也參與了這封信的簽署，他說 AI 能讓使用者快速找到那些不做篩查的供應商，還能告訴使用者如何改變訂單的性質，這樣壹來即使是那些做篩查的公司也更難發現壹個人想做什麼。
篩查技術本身也存在不足，去年微軟研究人員發表了壹項論文，他們使用 AI 蛋白質設計工具生成了很多存在潛在危險的基因序列，然而這些序列竟然成功繞過了多家公司的篩查軟件。這是因為 AI 會推薦和已知危險蛋白質結構相似的新序列，而現有篩查工具完全沒見過這些新東西。
早期篩查軟件主要對照已知那些的危險序列清單，這就導致壞人稍微改壹下序列的排列方式就有可能蒙混過關。事實上，這個問題在學術圈已經討論了很多年，但是壹直沒有形成具有法律約束力的規則。
說回這次聯名信，其組織方是兩個科技政策智庫，在特點上壹個偏向進步派、壹個偏向自由意志派，其實這兩個陣營在很多問題上都曾吵得不可開交，但卻在生物安全這件事上罕見地達成了壹致。
除了開頭那叁位大佬，簽署人還包括微軟 AI 負責人 Mustafa Suleyman、Meta 首席 AI 官 Alexandr Wang，以及 Twist Bioscience 和 Ansa Biotechnologies 等合成基因公司的負責人。
另據悉，川普政府上台之後撤銷了拜登時期的壹項行政令，那項行政令要求受聯邦資助的科學家和公司只能從進行訂單篩查的供應商那裡購買合成基因。
去年，白宮表示會推出自己的篩查指南，然而至今沒有發布替換政策。那些支持立法的人們認為，只有國會通過正式法律，才能讓所有在美國運營的合成 DNA 供應商都來遵守統壹的篩查標准，不管他們是否收到聯邦資金資助。今年早些時候，美國參議院也已經提出壹項跨黨派法案，不過還沒有獲得足夠的推進動力。
另壹方面，反對者也有他們自己的理由，他們認為到底什麼樣的基因組合算是危險的，這個判斷標准本身就是主觀的，並認為強制篩查會增加合規成本，還有可能打擊初創公司。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: