儘管人氣稍微下滑,但OpenAI沒有停止ChatGPT更新腳步,先在六月公告各式小規模改進,包含讓模型提升能記憶的上下文長度,還減少使用模型費用,並且新增函數呼叫功能。七月OpenAI更重磅宣布開放新外掛Code Interpreter,使用者自行上傳資料集後,ChatGPT可以幫你分析資料趨勢、繪製圖表、撰寫結案報告,並且開放Android用戶使用ChatGPT APP,不再是蘋果用戶專利。ChatGPT這些更新到底怎麼用?《遠見》一文完整解析。
OpenAI執行長奧特曼(Sam Altman)曾在受訪時,揭露數個ChatGPT開發方向,包含提高輸入文字的上限、增加記憶上下文的容量,還會努力降低成本,變得更便宜。他說的都成真了,OpenAI公布,不僅GPT模型記憶上下文變長,使用也變得更便宜。開放新外掛以後,還能夠解決程式苦手者與資料小白的資料分析需求。
ChatGPT超級外掛Code Interpreter,如何使用?
OpenAI宣布,讓ChatGPT付費用戶使用新外掛功能Code Interpreter後,很快引發熱議,因為它的功能實在太過強大。
從Code Interpreter的名稱,就能看出它的能力所在,也就是與程式有關,且又能夠扮演不同語言之間的橋樑。具體來說,Code Interpreter能夠做什麼?
使用者可以上傳如csv(Comma-Separated Values,將資料用逗點分隔欄位的儲存格式)在內的資料,就像平常使用Excel、Google Sheets一樣;接著ChatGPT會解析資料,告訴使用者說已經成功匯入,並尋求指示。
ChatGPT讀取資料後,不只是詢問使用者接下來有什麼需求,更進一步提出想法,以免使用者沒有方向。
只要按圖索驥,它便會依指令而行。
使用者可以按照ChatGPT的建議,要求它作出後續分析,也能提出自己的需求。舉例來說,可以請它解讀資料中某個變數歷年的變化,它不僅繪製出圖表,還整理了一段描述論點的列表,讓使用者可以快速解讀資料。
除了讀檔案、分析資料、繪製圖表以外,Code Interpreter還能夠寫程式、製作能夠輕鬆複製貼上的表格、提供簡報大綱等。
不過,雖然有人看到Code Interpreter的功能如此驚人,認為資料分析師就要失業,但這忽略了與業務指標聯繫的分析思維,以及資料分析作為幕僚,必然涉及策略制定,因此無論是分析標的、分析洞見等,都與企業整體發展方向有關,這些都不是ChatGPT能做到的。
ChatGPT 更新?更便宜、記憶上下文、提高輸入上限
據人工智慧新創 Humanloop 共同創辦人哈彼得(Raza Habib)對 OpenAI 執行長奧特曼(Sam Altman)的採訪時,奧特曼曾揭露 OpenAI 近期的產品路線圖(near-term roadmap),結果都一一實現。當時奧特曼談到幾點:
• 讓GPT-4變得更便宜、速度更快:
OpenAI 希望盡其所能地降低「智慧成本」(the cost of intelligence),如此一來API 的使用者可以用更低廉的價格調用。奧特曼強調,這是他們的首要任務。
• 提升對於上下文掌握的長度:
使用 ChatGPT 或者呼叫 GPT 的 API時,都有對話長度的限制,若超過上限,系統便會忘記過往的交談內容;GPT-4 模型釋出後,用來計算對話長度的指標 token 數值已經從 4 千翻了數倍,來到 3萬2千,未來 OpenAI 期望可以一舉提高到 1百萬個 token,野心不可謂不大。
• 將微調模型 API 擴充到最新版本:
過往 OpenAI 有提供讓使用者能夠微調(fine-tune)自己模型的 API,但新版模型還無法調用,OpenAI 打算完成這項任務。
• 能夠「擁有記憶」的 API:
使用 API 時,我們時常會提供先備知識、設定情境給 GPT,每次使用都要付一次錢、重新讓它掌握對話脈絡,OpenAI 預計開發出能夠記下對話歷史的 API。
六月時,OpenAI宣佈幾項ChatGPT更新,整理公布內容,其實和奧特曼受訪時揭露的方向完全相同。
不僅改善GPT-4和GPT-3.5模型,也將GPT-3.5-turbo上下文長度提升到16k,是一個重大突破。此外,使用上也能減少token數值的花費,更增加函數呼叫(function calling)功能,對程式開發者來說非常有幫助。
OpenAI推出ChatGPT的app,有誰可以用?
美國時間5月21日,OpenAI在其官網上正式宣布推出ChatGPT的應用程式,讓大家在手機上也能玩轉ChatGPT App,5月31日起也在台灣地區開放上架。7月底則陸續開放美國、法國、日本等地用戶下載使用Android版ChatGPT,至8/2為止,已經超過500萬名用戶下載安卓版ChatGPT。
在OpenAI關於iOS版ChatGPT的文章中,有提到幾個ChatGPT App的重點,包含:
1. 跨桌機與行動等多元裝置同步對話紀錄。
2. 支援OpenAI開發的語音辨識模型Whisper,它能夠將用戶的聲音命令轉化為文字,傳輸到ChatGPT當中。
3. 若你訂閱ChatGPT付費版Plus的使用者,在App中能夠享受同樣的權利,包含切換到GPT-4模型、來回對話的速度更快、體驗新功能等。
4. 客製化推薦:App版將更能針對你的需求,幫你打造旅遊行程或推薦食譜。
至於Android版,ChatGPT同樣強調,手機上的使用紀錄同樣可以和電腦版同步,不用擔心兩者有落差。
無論是 iOS 版的 App Store,或者是 Android 版的 Google Play,搜尋「ChatGPT」,都會有許多以 Chat、GPT、AI聊天為名的應用程式,因此要注意 2 個重點,第一是若想要使用官方版本,則下載時要認明應用程式是否由OpenAI出品,以免遇到山寨版的ChatGPT;第二是若不那麼在乎是不是官方版本,要注意是否收費、開發應用程式者的背景、其他使用者的評論,以免得不償失。
分享ChatGPT對話給朋友無縫接軌,新功能如何使用?
ChatGPT 在美國時間 05/31 新增讓用戶分享對話的功能,無論是付費使用者或是免費用戶,都能把自己和 ChatGPT 的對話轉化成連結,若想要了解更多,可以參考 OpenAI 的官方文章。
具體來說,要怎麼把ChatGPT的對話分享給朋友?
• 步驟01:選擇對話名稱後,點擊中間的按鈕。
• 步驟02:稍後片刻,ChatGPT 就會產出對話連結,按下複製按鈕。
• 步驟03:將連結分享給朋友,朋友將連結貼上網址列後進入,就可以從你對話結束的地方繼續和 ChatGPT 對話了。
上網查資料、掌握最新班機資訊,ChatGPT新功能要到哪裡用?
訂閱ChatGPT Plus的用戶,現在可以在ChatGPT使用外掛程式(plugins),包括WorldNews,AskyourPDF等,可以協助快速找新聞和整理PDF文件。要到哪裡去找呢?只要先點擊ChatGPT頁面左下方的個人帳戶,再從中選取設定(settings),接著就會跳出選單,有3個選項可供選擇。
• 第1個「整體」(general)選項可以讓人調整主題,使用者能在夜晚、明亮、系統等模式中切換,還能清除過往的對話紀錄。
• 第2個「測試功能」(beta features)選項提供了2個功能:網頁瀏覽功能與外掛程式。前者可以讓ChatGPT連上網路,瀏覽網頁資訊後回答問題,這可以彌補ChatGPT訓練資料只有到2021年的問題;後者則讓使用者可以使用眾多外掛,例如獲取市場最新的交易資料、蒐集食譜與食材、尋找可有空位的餐廳等,若看到喜歡的點擊安裝後,就能在與ChatGPT對話中啟用。
• 第3個「資料控制」(data control)選項,可以讓使用者匯出資料、刪除帳號、開啟2階段驗證,此外還有最重要的,是否要儲存與ChatGPT對話的資料,若要儲存的話,就會被OpenAI拿來訓練ChatGPT的表現。如果選擇不儲存資料,這些對話就會在30天內被刪除。
舉例來說,我們可以利用KAYAK這個外掛,獲取航班與票價的相關資訊。
GPT-4已正式開放試用,要付費才行?
OpenAI在ChatGPT官網中,讓有訂閱ChatGPT Plus的人能夠優先使用GPT-4驅動的問答。實際使用下來,在執行任務例如翻譯時,GPT-4的速度略慢於3.5,但是表現較佳,訂閱用戶可以自行選擇想要使用哪一個版本;不過,若是要啟用上述的連網與外掛功能,一定要選擇GPT-4版本。
另外,由於微軟已將GPT-4融入自家搜尋引擎Bing中。所以你也可改用Bing的Copilot聊天服務,就等同免費使用GPT-4。至於GPT-4的API,現在OpenAI已經在7月初全面開放給開發者使用,使用者可以依照呼叫API的次數付費。在文章最後,OpenAI表示,它們期待GPT-4能夠成為改善們生活的重要工具,它們也會持續改善這個模型。
一小時學ChatGPT指令的大師課:吳恩達釋出免費線上課程教什麼?
除了應用端,有意使用GPT模型的API開發新服務的人,也有課程可以學習。另一位人工智慧界的巨擘吳恩達,近期在自家平台Deeplearning.AI上和OpenAI的富爾福德(Isa Fulford),共同推出時長為1小時的線上課程,向工程師教授如何掌握提示工程(Prompt Engineering)。免費又大師傳授,同時他們放下專家身段,手把手從基礎教導,有心者不容錯過。
這堂課中,兩位授課教師會帶學員利用大語言模型打造服務,換句話說,就是利用OpenAI累積已久的模型實力,讓開發者們透過串接API,創造各式微型的新應用。很多過往由人類親自出手的任務,如今都可以找到機器代勞,例如學術研究常見的資料標記,或者是媒體工作者日常工作中的資料摘要等。
不只是指令相關課程,吳恩達還有開設其他更多生成式AI相關內容,例如擴散模型運作的原理、LangChain如何開發等,對開發者來說非常實用。
怎麼使用ChatGPT寫好指令?
使用ChatGPT的時候,可以給它簡單的問句,例如問它應該選擇愛情還是麵包,但也有更系統化的做法,讓你得到的答案更實用、更精煉。在使用ChatGPT時,可以使用模板(template)或者框架(framework),重點是要將自己的提示詞拆解為數個部分:
●背景:簡介你即將請ChatGPT執行任務的背景,例如你的身分、正在跟誰協作。
●任務:具體來說,你希望ChatGPT幫你完成什麼事?是針對某個議題提供想法,或者是從一段文字中尋找重點。
●脈絡:你可以告訴ChatGPT關於任務的脈絡,例如以翻譯來說,可能有些特定的用詞,或者是這篇翻譯和某起事件有關;另外,若有先備知識,也要先提供給ChatGPT。
●限制與要求:若針對ChatGPT的產出有些要求,請記得提出,例如回覆內容的長度不要超過200字,或者是希望它用專業譯者的筆法寫作;有特別提出語調、風格,對於產出品質會有很大幫助。
除了參考上述在下指令時的注意事項以外,也有幾個實用技巧,包含請ChatGPT扮演特定專業角色、在LINE中串接ChatGPT、使用ChatGPT的擴充功能等。