Claude可代替人手操控電腦！怎麼用？官網與中文使用教學

Claude近期讓科技人紛紛從ChatGPT跳船變新歡！讓AI代替人手操作電腦的「Computer Use」新功能是什麼？最近開發團隊Anthropic也跟上OpenAI腳步，推出企業版Claude Enterprise；在手機上也能使用。到底如何官網註冊這個生成式AI工具Claude？免費版和付費版Claude差在哪？《遠見》一文完整介紹。

Claude AI是什麼？

Claude是Anthropic開發的AI對話工具，並獲得了亞馬遜和Google等科技大廠的支持。Claude的名稱不僅指代對話服務本身，也代表其背後的AI模型。用戶可以透過網站與Claude進行互動，與ChatGPT的使用方式類似；開發者則可以利用Claude API開發服務與應用。

Anthropic指出，Claude能執行多樣的文字任務，無論是生成文件、撰寫信件還是解答問題，它都能輕鬆應對。同時，Claude還具備編輯、重寫、摘要和分類的能力。在對話過程中，它可以模擬不同角色，使互動過程更加自然真實。由於訓練資料豐富，Claude熟諳多國語言，也能撰寫程式，甚至可解決文化、技術及其他專業領域的複雜問題。此外，Claude可以根據使用者的需求，執行自動化的工作流程，有條理地處理各種任務。

儘管如此，Claude無法直接存取網絡資料，使用者需要手動提供資訊與其互動。Claude秉持Anthropic的「HHH」（Helpful, Honest, and Harmless）理念，採用了專門的訓練方法，專注於生成對使用者有幫助、誠實且無害的內容。根據Anthropic的資訊，Claude 3的訓練數據截止於2023年8月，而Claude 3.5則更新至2024年4月。除了公開的網絡資料，Claude的訓練還依賴第三方非公開資料、Anthropic用戶數據以及專業標記公司提供的資料。

雖然推出時間較晚、知名度較低，但因為Claude漸次更新展現出的能力，不管是生成的程式碼品質，或者是新增的Artifacts功能對撰寫文章和程式開發者友善，都讓Claude的使用者日益增長，也讓它成為ChatGPT的強勁敵手。根據《The Information》去年（2023年）報導，Anthropic預期2024年的年化收入（以某段時期的營收為基準預期整年營收）將超過8.5億美元，對照OpenAI預期達到的近40億美元營收，仍具一定規模。

Claude更新3.5模型、推電腦使用和Artifacts功能是什麼？

2024年3月，Anthropic一共推出三款Claude 3系列模型，分別是Claude 3 Haiku（俳句）、Claude 3 Sonnet（十四行詩）以及 Claude 3 Opus（古典樂的編號作品）。

2024年6月，Anthropic釋出的是性能居中的Claude 3.5 Sonnet模型，Anthropic也表示，今年稍後就會釋出Claude 3.5 Haiku和 Claude 3.5 Opus模型。

果不其然，2024年10月，Anthropic正式推出三款模型中最輕量的Claude 3.5 Haiku，同時升級6月釋出的Claude 3.5 Sonnet，並向開發者提供能夠模擬人類使用電腦行為的「電腦使用」（Computer Use）API。

以定位來說，Claude 3.5 Haiku就像是OpenAI GPT-4o mini、Google Gemini的Flash，主打在性能維持不變，甚至與前一代Claude 3 Opus接近的情況下，但成本以及回覆速度都和Claude 3 Haiku接近，換句話說，在Haiku、Sonnet、Opus三款模型中，相對物美、價廉、回覆速度快，因此適合需要回覆延遲低、可能需要即時生成圖像或者文字等個人化的服務，例如與用戶直接對話的客服、重視千人千面的電商等。

Anthropic指出，Claude 3.5 Haiku尤其擅長撰寫程式，在評比中表現勝過升級前Claude 3.5 Sonnet以及GPT-4o，即將在本月正式推出，Anthropic的官方API、Amazon的生成式AI平台Bedrock、Google的生成式AI平台Vertex AI皆支援Claude 3.5 Haiku。

至於升級版的Claude 3.5 Sonnet，Anthropic表示它的軟體工程能力領先群倫，甚至勝過有推理能力的OpenAI o1-preview，或者其他專門為寫程式而生的專用模型；同時，在回覆時間相同的情況下，推理能力有所提升，規劃和解決問題能力也有改進。

不過，值得注意的是，儘管Anthropic看好Claude 3.5 Sonnet的表現有所提升，但在每次推出新模型都會一併釋出的評比分數比較表中，競品僅列入OpenAI的GPT-4o與GPT-4o-mini以及Google的Gemini 1.5 Pro和Gemini 1.5 Flash，遺漏OpenAI號稱博士級的o1系列模型。

Anthropic在表格下方補充說，OpenAI的o1系列模型在回覆前需要經過大量運算時間，與一般模型不同，因此難以比較兩者。Anthropic提到的大量運算，指的是o1模型會在接受使用者指令後，利用思維鏈（chain-of-thought）展開推理，並生成出推理用的符元（token）以便理解指令，並考慮不同的回應內容，最後才生成出提供給使用者的回答，但不會將推理過程納入。

因為在生成內容前增加思考過程，雖然降低回覆速度，但也讓生成內容品質提升，o1因此成為OpenAI募資和吸引使用者的新利器。Anthropic本次尚未端出與o1機制相同的新版本Claude，只好在評比中以機制不同將其排除。若接下來始終無法推出相應的模型，Claude恐怕只能留住特別需要生成程式碼的使用者，其他用戶想要處理複雜問題時，可能會大幅流向ChatGPT。

事實上，若要跟GPT-4o或者Gemini 1.5 Pro比較，早在先前Anthropic的自我評估中，推理能力、數學能力、大學生程度的知識等，Claude 3.5 Sonnet皆超出OpenAI、Meta和Google等對手。然而，考慮到新戰場在o1，若今年還有機會見到Claude 3.5 Opus問世，能否在推理能力與之一戰，就成為關注焦點。

隨著多模態技術的趨勢日益顯著，Anthropic也有將Claude 3.5 Sonnet的視覺能力納入比較範疇，同樣勝過GPT-4o在內的競爭者。Anthropic表示，處理圖像中的缺陷文字時，Claude 3.5 Sonnet 仍能精確轉錄，這項功能對物流、零售和金融等行業的應用場景極具價值。

以台灣在地案例來說，2024年生成式 AI 年會上，專注於物流的艾立運數據長陳凱翔提到，過去使用光學字元辨識（OCR）技術來處理大量手寫的出貨單據，如今可以藉助具備視覺能力的基礎 AI 模型來完成，這就是大語言模型技術進展帶動垂直領域應用的明確案例。

除了推出新模型、改善舊模型以外，Anthropic另外釋出、目前面向開發者的「電腦使用」功能頗為引人注目。

電腦使用功能顧名思義，開發者調用API時，Claude模型接受開發者輸入的指令後，可以像人類那樣使用電腦。在Anthropic展示的「安排舊金山旅遊行程」案例中，Claude自行打開瀏覽器展開搜尋，找到合適的旅遊景點後，Claude計算出從居住地道景點的距離，並將其紀錄在案，接著查詢日出時間，確認交通與行程時間，發送包含地點與時間等詳細資訊在內的日曆邀請。

在展示中，Claude能夠閱讀螢幕內容、自由移動滑鼠游標，並點擊網頁上的按鈕，也能夠輸入文字，雖然官方強調會出錯，但從中看出Claude具備一定的推理及規劃能力，還有調用外部工具的能力，完全符合AI Agent（AI代理）的定義。

Anthropic指出，電腦使用功能讓開發者能夠完成自動化任務、軟體測試，甚至延伸到具有一定不確定性的開放型任務。事實上，展示電腦使用功能的過程，與許多機器人流程自動化（Robotic Process Automation, RPA）套裝軟體的介面非常相似，同樣紀錄滑鼠游標和螢幕的相對位置以及流程，但隨著LLM興起，微軟先前力推、要把軟體和服務介接給使用者的Copilot Agents，還有這次Claude的Computer Use，都宛若有進軍甚至消滅RPA的勢頭在。

在改寫與翻譯程式碼上加分不少

在今年的3月、6月、10月，Anthropic分別進行了三次重要的更新。3月的更新主要聚焦於提升回答的準確性、更精確地判斷使用者意圖，並增加多模態功能、結構化輸出格式和函數呼叫等功能；而6月則推出了Artifacts功能，提升了回應速度，並在生成、重寫及翻譯程式碼上有了更大的改進；10月除了推出新的輕量版模型以外，暫時只提供給開發者的電腦使用功能，則是最大亮點。

Claude自問世以來，一直強調其超長的上下文處理能力和極短的回應時間。

對於電商和客服業務而言，若對話機器人在調用API時耗費太長時間，導致客戶等待過久而感到不耐煩，那麼這項服務就失去了價值。因此，Anthropic認為，未來的核心競爭領域將是知識檢索和自動化銷售。

在今年的Google I/O大會上，Google展示了其架構優化後的Gemini 1.5 Flash模型，雖然規模較小，但回應速度更快，並率先開放100萬個符元的上下文長度，未來將擴大到200萬，研究中的進展甚至已達到1000萬個符元。同時，OpenAI的GPT-4o也在致力於降低延遲時間，而o1系列模型的回覆耗時長，但透過推理，讓模型回答內容得到質的飛躍，這對Anthropic構成了不小的挑戰。

Anthropic目前的Claude 3.5 Sonnet模型支持20萬個符元（token）的上下文處理，這意味著什麼呢？符元是電腦理解文本的最小單元，可能是單詞、句子或段落。Claude和ChatGPT官方文件中提到的token，實際上比單詞還要小，根據OpenAI的說明，每個token相當於四個英文字母或0.75個單詞，而對於中文來說，每個字即為一個token。

以此為背景計算，Claude 3.5 Sonnet能夠處理約300篇500字的英文文章，或者200篇1000字的中文文章，展示出強大的處理能力。Anthropic先前也提到，Claude 3能處理超過100萬個token，因此可以預期Claude 3.5 Opus也具備處理百萬級token的潛力。

在實際使用中，付費版的Claude 3.5處理長篇文章的速度非常快，且能夠完整處理文章的中間和末段，並不會有出現大幅遺漏的情形，這對於提煉學術研究和長篇報告的精華極有助益，再加上率先一步推出Artifacts，用戶能夠更靈活地調整程式碼，進一步提升生產力。

Computer Use如何使用？能讓AI代人手操控電腦？

在展示中，Anthropic一共介紹三個案例。

案例一：自動填寫供應商申請表

在此案例中，使用者需要填寫一份申請表單，但所需資料分散在電腦的不同位置。Claude先是檢查了Google Spreadsheet，尋找申請表所需資訊，但發現表格中沒有資料後，自行跳轉至客戶關係管理（CRM）系統查找，輸入文字後找到目標公司，並取得所需資料，再將其輸入至申請表中完成提交。

在此案例中，使用者不用自己花時間搜尋，也不用逐格填寫申請表，全部讓Claude完成。

案例二：撰寫和修改網站程式碼

在此案例中，使用者希望打造具有90年代風格的個人頁面。Claude接受指令後，自行打開瀏覽器，並進入Claude頁面，輸入指令後生成網頁指示碼，下載後再到開發環境VS Code 中打開。接著測試時，發現無法完整顯示頁面，這時使用者選擇介入，要求Claude根據錯誤提示修正，Claude也從善如流找到錯誤，修正後成功運行網頁。

在此案例中，Claude聰明地利用自己擅長生成程式碼的特性，讓不擅程式的使用者也有機會開發網站。

案例三：安排行程並發送日曆邀請

在此案例中使用者計劃帶朋友去舊金山旅遊，希望安排一次可以看到金門大橋日出的徒步旅行。Claude打開Google瀏覽器後，搜索資訊後找到一個合適地點，接著打開地圖計算距離並告知使用者，再查詢日出時間，並在使用者的日曆中添加帶有地點、時間等詳細資訊的活動提醒。

在此案例中，Claude做到旅程規劃這個新創戰場上常見的任務，自行探索景點並留下對使用者來說重要的時間與距離資訊。

從上方三個案例中，能夠看出Claude的Computer Use功能可以幫助使用者自動化各種任務，不僅理解使用者的指令，還可以根據實際情況調整操作步驟。不過，Anthropic多次強調，此功能還在試驗階段，可有可能出錯，例如在錄製第三個案例時，就遇上Claude搜尋完全無關的景點就此卡住的情況，也有自行停止錄製，讓團隊先前的心血就此消散必須重新再來。

Artifacts新功能的3點優勢

根據Anthropic介紹，當使用者利用Claude產出程式碼、網站設計或者文字時，Claude會獨立出一個動態，讓你可以跟同事一起在開會時，比其他工具快速完成以下這些事情：

1. 用Claude討論一個網頁或者文章的構思，同步透過Artifacts做出預覽網頁或者文章

2. 以獨立畫面呈現讓一起合作的同事參考，更容易讓對方看懂並交流。

3. 若覺得已經夠好，能直接一鍵下載答案，不需要在混雜著聊天訊息中尋找答案轉貼複製。

Anthropic強調，這讓Claude再也不是對話式的AI服務，更要走向協作的工作環境（collaborative work environment），增加團隊合作的可能性。可以預期，Claude除了付費版的Claude Pro、讓AWS和Google Cloud支援的開發者調用模型以外，也有望推出類似Copilot或者ChatGPT Team的服務，加入工作的多人合作場景競爭中，讓Claude成為隊友（teammate）。

Claude台灣如何設帳戶？手機版也能用？

隨著Claude陸續更新，現在使用者分別能在網頁版、Android手機和蘋果手機上使用Claude。Anthropic尚未推出電腦版的應用程式。

Anthropic指出，使用者可以接續先前的對話，跨越平台使用Claude，且支援拍攝照片與上團圖片的視覺功能、擁有對應多語言如翻譯等能力，且使用「進階推理」一詞描述Claude的能耐。

如果是使用網頁版，打開Claude的頁面後，只需輸入電子信箱或使用Google帳號，即可開始註冊程序。

除了輸入姓名外，還需提供手機號碼以接收認證簡訊，通過後才能使用Claude。

在使用前，Anthropic會提醒使用者可能遇到的情況，例如生成誤導性資訊或冒犯性內容。

註冊完成後，即可開始使用Claude。目前Claude背後預設的模型是最新版本Claude 3.5。除了進行一般問答外，Claude還提醒使用者可以上傳照片與圖像，並從中萃取有效資訊；同時也會在首次開啟Claude時，詢問是否開啟Artifacts功能。

Claude如何使用？

實測1：解析長文

就像ChatGPT一樣，我們可以展開問答，不過，使用Claude的最大重點，自然是其記憶能力，它能夠接收比ChatGPT更長的上下文長度（context window）。

若有解析長文的需求，尤其是檔案頁數多的PDF，例如論文、研究報告或者長篇作品，都可以上傳到Claude處理。

不過，作為大型語言模型，再加上沒有開啟連網功能，Claude仍無法避免產出幻覺。ChatGPT已經在近期做出不少努力，減少幻覺，Claude的更新中，也提到出現幻覺次數正在下降中，模型會明確拒絕，或是和使用者確認提問內容，藉此避免無中生有。

實測2：快速看圖表

實測Claude 3.5的多模態結果，表現亦佳。上傳2024年總統大選的政黨得票地圖，Claude能夠精確解釋圖表的意義，不只能辨識圖上的說明，也能夠讀懂圖例中的顏色尺度（scale）和其對應的數值。

至於本次更新的一大亮點Artifacts，實測效果不俗。

實測3：秒複製網頁

上傳《遠見雜誌》記者的文章頁面，再請Claude撰寫前端程式碼，除了因為無法聯網因此沒有辦法復刻出照片以外，其餘包含標題、摘要和日期等都有成功再製，網站上方的文章頻道和訂閱按鈕等亦然。

此外，即便截圖圖檔尺寸很小，Claude也無懼於文字難以辨認的挑戰，一字不差地再現。

因為再製頁面缺乏作者名稱與日期，也沒有原先官網有的文章蒐藏功能，要求Claude補上，它也從善如流，順利完成要求。

目前Claude付費版、每月收費20美元的Claude Pro，已經開放台灣使用者付費使用。相對於免費版的使用次數限制，Claude Pro用戶擁有五倍的對話額度，且提供使用者調取速度更快的Claude 3 Haiku以及先前性能最優異的Claude 3 Opus模型。

跟ChatGPT Plus相似，當網站流量太大時，Claude Pro使用者也擁有使用的優先權，往後開放功能時也能搶先體驗。

實測4：比較方案

生活中時常需要「比較」，可能是比較手機資費，或者是比較各家保險公司的方案差異，這次實際以Claude不同的收費方案為標的測試。

打開Anthropic官網的收費頁面，抓取網頁畫面後，直接上傳到Claude對話中。

Claude很快能夠從圖像中辨識出四種方案的權益，且它能夠把「優於免費版」自動延伸為新的欄位，對於撰寫表格上非常有幫助。

Claude推出企業版，跟ChatGPT Team、Copilot對打？

2024年9月，Anthropic宣布推出Claude企業版（Claude for Enterprise），讓工作團隊能夠在協作中使用Claude。

Anthropic主要鎖定兩大方向，第一是幫助團隊工作提升效率，第二是確保團隊開發時能夠保證安全。

就提升效率來說，和OpenAI的ChatGPT、Google Workspace以及微軟Copilot相似，Anthropic強調，要讓Claude能夠整合組織內部的知識，藉此放大其能力，跨越不同專案和團隊，藉此更有效推動決策進行，而不再只是孤懸於網頁上的海上小島。

對比小型團隊使用的Claude Team，Claude企業版的亮點在於更長的上下文脈絡（context window），達到500k，個人與團隊僅有200k，方便團隊成員上傳大量公司內部自有檔案，讓Claude能夠學習；Claude企業版也整合GitHub，方便開發者能夠同步其儲存庫（即repo）裡面的程式碼。

根據Claude官網介紹，目前已有Midjourney、GitLab和Airtable等企業正在使用Claude企業版本。

提升效率以外，團隊開發時確保安全也是重點，Anthropic列出幾個讓Claude企業版使用的功能，包含單一登入 （SSO）和網域擷取：安全管理使用者存取並集中設定控制、跨域身分識別管理系統（SCIM）、按照使用者角色開放對應權限等功能。

Claude免費版和付費的Pro、Team、Enterprise有何差異？

比較Claude免費版，以及付費版的Pro、五人以上小型團隊的Team以及五百人以上的企業級Enterprise，差異體現在模型和使用優先順序上。

Anthropic打造出Claude，背後創辦者是OpenAI舊將

Anthropic的創辦人為達里歐（Dario Amodei）和丹尼耶菈（Daniela Amodei）兄妹，兩人雙雙入選《時代雜誌》「AI百大影響人物」，達里歐更是連續兩年進榜。他們致力於確保AI系統與人類價值觀一致，這使Anthropic在AI領域中顯得格外突出。

在創立Anthropic前，這對兄妹皆曾在OpenAI擔任要職，達里歐是研發副總裁，而丹尼耶菈則負責安全與政策。

根據Venture Beat的報導，2021年，兄妹兩人因不同意OpenAI接受微軟的10億美元投資，並逐漸轉向產業化的發展路線，選擇離職，並帶走9名員工創辦了Anthropic，計劃打造一個更透明且值得信賴的AI系統。與他們相似的還有馬斯克，他也因不支持OpenAI的資本化方向而退出。

如今，OpenAI的發展與他們的理念漸行漸遠。因為執行長奧特曼（Sam Altman）打算將公司完全轉為營利結構、讓OpenAI中的營利單位脫離非營利組織的限制，以便更有效地與Anthropic及馬斯克的xAI展開競爭，讓與他一起前進的共同創辦人和員工們選擇離去。

今年9月與奧特曼始終共進退的技術長穆拉提（Mira Murati）宣布離開，同時間還有另外兩位主管級人物去職；8月共同創辦人暨總裁布羅克曼（Greg Brockman）宣布將會休假至年底，共同創辦人舒曼（John Schulman）則跳槽至Anthropic；5月共同創辦人兼首席科學家薩斯凱博（Ilya Sutskever）和高級研究員雷克（Jan Leike）相繼辭職。

離開OpenAI後，薩斯凱博（Ilya Sutskever）宣布成立名為Safe Superintelligence（SSI）的公司，專注於開發安全的超級智慧系統。早在SSI之前，Anthropic就始終以安全和信任為核心價值。在機器學習領域，AI決策經常被形容為「黑盒子」，因此許多研究者致力於增加AI的可解釋性。達里歐和丹尼耶菈也是這類研究者之一，他們的目標是提升AI系統的決策透明度。

儘管Anthropic在開發、商業模式以及與企業合作上與OpenAI有相似之處，例如同樣追求表現最優異的尖端模型、商業模式都是提供訂閱與API服務，且都找上大型雲端廠商，以模型與API調用權以及收入分潤，換取資金與運算資源。不過，雙方企業架構和未來走向截然不同。Anthropic是一家公益公司（PBC），首要目標是促進社會和公共利益，而非追求財務回報，這使它能避免受到來自投資者或強大合作夥伴的過度影響。

Google、Amazon皆投資開發出Claude的Anthropic

根據Crunchbase資料，包括Google、Amazon、FTX創辦人SBF（Sam Bankman-Fried）、前Google執行長施密特（Eric Schmidt）、臉書共同創辦人莫斯科維茲（Dustin Moskovitz）等人都對Anthropic進行了投資。

2021年5月，Skype開發工程師塔林（Jaan Tallinn）領投了A輪，注資約1.24億美元。塔林曾投資孕育出AlphaGo和AlphaFold、後來被Google收購，如今已經成為Google發展人工智慧技術核心的DeepMind，並且非常關注人工智慧對人類的存在風險（existential risk），他參與創立了英國劍橋大學的存在風險研究中心以及美國的未來生命研究所。後者即是馬斯克（Elon Musk）日前參與連署「停止先進AI系統開發6個月」倡議的組織。

2022年4月，臭名昭著的加密貨幣交易所FTX創辦人兼執行長SBF領投了B輪，注資約5.8億美元。2023年2月，Google宣佈投資Anthropic 3億美元，獲得約10%股份，除了發展自家的Bard（現已更名為Gemini）外，也希望Claude能夠對抗ChatGPT。

2023年5月，由Spark Capital領投的C輪中，Google和Zoom也參與，共投資4.5億美元。2023年8月，韓國電信公司SK電信也投資1億美元，希望能打造適合電信公司的大語言模型。

2023年9月，Amazon宣佈將投資Anthropic高達40億美元。對Anthropic來說，AWS將成為公司依賴的雲端服務商，類似OpenAI利用微軟的算力與資金，Anthropic能夠將這些新資源用於改善模型的穩定性與性能。Amazon則如同微軟，透過AWS將Anthropic的模型開放給客戶使用。

2024年6月，就在Anthropic釋出Claude 3.5 Sonnet模型後，Google Cloud和AWS各自宣布，旗下生成式AI開發平台Vertex AI和Amazon Bedrock，皆已經開放取用Claude 3.5 Sonnet。AWS表示，美國餐飲外送龍頭 DoorDash已利用Claude 3模型，打造出由以生成式AI技術為基底的客服中心（customer support center）。目前此類AI代理（AI agent，亦翻譯為AI智能體、AI助理或者AI專員）已在客服產業逐漸擴散，預計將應用在更多領域。

2024年10月，就在Anthropic釋出Claude 3.5 Sonnet升級版模型以及Claude 3.5 Haiku後，Google Cloud和AWS同樣表示其生成式AI平台也已支援。AWS指出，升級後的Claude 3.5 Sonnet有能力處理現實世界中的軟體工程任務，同時還能以其為基底建立更強大的聊天機器人，能夠以溫暖語調和人類對話。至於Claude 3.5 Haiku，則以速度取勝，可以用在應對客戶、電子商務以及教育平台之中。

Claude AI訓練過程中有何特色？

Claude的設計背後體現了Anthropic創辦人的堅定信念，使其顯得非常具有原則性。

在Claude的訓練中，開發團隊制定了一套「憲法AI」（Constitutional AI）的原則，供AI在訓練過程中遵循。第一階段，模型會先生成內容，再通過自我批判來改進內容方向。此過程屬於監督式學習，模型根據人類設定的原則來審視自己的回應。第二階段則是用經過微調的模型進行內容生成，並讓其他模型進行「二選一」的比較，從而訓練出偏好優質內容的模型。

若熟悉OpenAI訓練ChatGPT的過程，會知道「從人類回饋中強化學習」（reinforcement learning from human feedback，RLHF）的訓練方式，是通過人類標記者來評估生成的內容。而Anthropic的訓練方式則有所不同，他們採用了「從AI回饋中強化學習」（reinforcement learning from AI feedback，RLAIF），讓AI代替人類來評估內容優劣。

Claude的訓練過程與ChatGPT有相似之處，都是基於標記資料和回饋改善表現。然而，Claude在訓練初期便有一套清晰的原則，確保AI生成的內容能夠體現人類價值，減少了人類標記者可能帶來的偏見。

Anthropic透過這種方式，成功打造了一個不會造成傷害的AI助理。即使使用者詢問有潛在危險的問題，例如涉及犯罪或暴力，Claude仍能給出反駁意見。Anthropic指出，他們提高了AI決策的透明度，讓人類更精確地控制AI的行為，而不需要大量的人為干預，實現了高效與安全的平衡。

這次10月的更新中，Anthropic也強調，在Claude 3.5 Sonnet上線前，與美國人工智慧安全研究所（US AISI）及英國人工智慧安全研究所（UK AISI）合作先行測試，確保其安全後才推出；因為擔心電腦使用新功能被拿來惡意使用，例如發送垃圾郵件或者撰寫虛假訊息，Anthropic開發能夠分類電腦使用是否產生危害的分類工具。從種種措施，不難看出Anthropic對安全的追求。