 大家好,我是在管理咨詢行業(yè)工作超10年的顧問輕舟,擁抱AI,效率賦能。 今天,分享點(diǎn)智能體知識(shí)和經(jīng)驗(yàn)。導(dǎo)讀:本文內(nèi)容較多,包括3個(gè)主題,大家根據(jù)不同興趣定位章節(jié)閱讀。- 扣子平臺(tái)核心亮點(diǎn)總結(jié)
- 我用扣子+Kimi語言模型開發(fā)了智能體——AI秒讀標(biāo)書
昨天,月之暗面與字節(jié)旗下的「扣子Coze」在上海聯(lián)合舉辦了一場(chǎng)線下開發(fā)者活動(dòng)。前不久,Kimi 大模型已經(jīng)入駐了字節(jié)跳動(dòng)旗下的「扣子Coze」開發(fā)平臺(tái),成為首個(gè)入駐的第三方大模型。開發(fā)者在扣子()上,可以體驗(yàn)到 Kimi 大模型全新的 Tool Calling 能力和超強(qiáng)的用戶意圖識(shí)別能力,將這顆全新的'大腦'與平臺(tái)上豐富的插件、工作流等能力結(jié)合,低門檻地打造各種業(yè)務(wù)場(chǎng)景下的 AI Agents。 這場(chǎng)線下活動(dòng),也是為了幫助開發(fā)者更好使用 Kimi 大模型這項(xiàng)全新的 Tool Calling 能力, 以及超長的文本能力、Variable、LTM、Task、Multiagent 等眾多強(qiáng)大功能目前都可以在扣子()實(shí)現(xiàn)。下圖就是我在「扣子Coze」平臺(tái)開發(fā)的一個(gè)AI Bot(Agent智能體)—AI投標(biāo)助手(https://www./s/iYEcHfpq/),使用了kimi大語言模型。過去只能配置字節(jié)自己的云雀語言模型。 扣子bot開發(fā)頁面配置kimi模型非常簡單,如下圖所示,選擇不同版本的moonshot模型,從回復(fù)隨機(jī)性、最大回復(fù)長度、上下輪輪次三個(gè)方面配置好就可以。目前開放平臺(tái)提供的三個(gè)基礎(chǔ)模型是:moonshot-v1-8k: 它是一個(gè)長度為 8k 的模型,適用于生成短文本。 moonshot-v1-32k: 它是一個(gè)長度為 32k 的模型,適用于生成長文本。 moonshot-v1-128k: 它是一個(gè)長度為 128k 的模型,適用于生成超長文本。 扣子(coze)字節(jié)跳動(dòng)旗下,新一代一站式 AI Bot (即AI Agent)開發(fā)平臺(tái)。無論你是否有編程基礎(chǔ),都可以在扣子平臺(tái)上快速搭建基于 AI 模型的各類問答 Bot,從解決簡單的問答到處理復(fù)雜邏輯的對(duì)話。而且你可以將搭建的 Bot 發(fā)布到各類社交平臺(tái)和通訊軟件上,讓更多的用戶與你搭建的 Bot 聊天。月之暗面 (Moonshot AI)是一家成立于2023年的中國AI創(chuàng)業(yè)公司,月之暗面獲得了阿里、紅杉、小紅書、美團(tuán)等多方的超10億美金融資,估值達(dá)到180億,成為AI領(lǐng)域的獨(dú)角獸公司。kim是月之暗面非常爆火的一款A(yù)I產(chǎn)品。月之暗面旗下的 Kimi 開放平臺(tái)為開發(fā)者提供 Kimi 智能助手背后的同款大模型 API,允許開發(fā)者將 Kimi 大模型卓越的長文本處理能力和指令遵循能力接入到自己的產(chǎn)品中。扣子已經(jīng)是國內(nèi)智能體開發(fā)功能比較完善、生態(tài)比較豐富的平臺(tái)了。但大語言模型的調(diào)用是Agent智能體的核心能力,所以,能夠調(diào)用什么樣的大語言模型,對(duì)智能體開發(fā)平臺(tái)就有很大影響。這次kimi全面接入扣子,對(duì)扣子而言,如虎添翼,極大的增強(qiáng)了bot的問答效果,特別是對(duì)于長文檔閱讀理解與處理、聯(lián)網(wǎng)搜索,這是kimi的強(qiáng)項(xiàng)。kimi畢竟是后起之秀,即使有大額融資,經(jīng)濟(jì)實(shí)力也比不過百度、字節(jié)、騰訊、阿里等大巨頭。kimi發(fā)布開發(fā)者平臺(tái)公測(cè),開放API相對(duì)較晚,目前kimi還沒有自己的智能體開發(fā)平臺(tái)。與扣子的合作,可以借助扣子的開發(fā)平臺(tái),加速自己面向開發(fā)者的業(yè)務(wù)構(gòu)建,實(shí)現(xiàn)B端的快速突破。我親測(cè)了智譜智能體平臺(tái)、文心智能體平臺(tái)、扣子智能體平臺(tái),目前來看,扣子智能體平臺(tái)是資源最豐富、操作最便捷、最好用的。雖然國內(nèi)版扣子據(jù)了解遠(yuǎn)不如海外版扣子,但是kimi大模型加持后,創(chuàng)建的Bot質(zhì)量輸出還是很不錯(cuò)的。下面根據(jù)我的使用感受,簡單總結(jié)扣子平臺(tái)開發(fā)智能體Agent(扣子叫Bot)的核心特點(diǎn)和優(yōu)勢(shì),供大家快速了解。扣子的插件市場(chǎng)已經(jīng)很豐富了,有扣子官方出的插件,也有開發(fā)者提供的插件。所謂插件通俗理解就是做智能體的積木塊,有了現(xiàn)成的插件,你就可以不用再通過編程等技術(shù)方式單獨(dú)開發(fā),可以大大降低Agent的開發(fā)難度,提高開發(fā)效率,真正實(shí)現(xiàn)零代碼開發(fā)自己的Agent。目前扣子平臺(tái)的插件,比剛剛上線的文心智能體平臺(tái)要豐富很多,文心智能體大概只有十幾款工具可用。當(dāng)然了,智能體平臺(tái)是一個(gè)生態(tài),相信大家很快就會(huì)豐富起來。2.可以查別人Bot的公開配置(劃重點(diǎn))bot商店有開發(fā)者發(fā)布的bot,不過親自體驗(yàn)了一些,應(yīng)該說質(zhì)量參差不齊,總體質(zhì)量一般,很多bot的效果不如直接與kimi、文心等這樣的AI工具對(duì)話的效果。但是,這不是重點(diǎn),重點(diǎn)是:bot商店有個(gè)很好的功能,選擇公開配置選項(xiàng)后,可以篩選出公開了bot配置信息的智能體,就是你可以看到別人開發(fā)的智能體的prompt信息。 會(huì)看到中上位置有一個(gè)prompt選項(xiàng),點(diǎn)擊一下,會(huì)很驚奇吧,他的prompt及所有配置信息全部可以看到。也就是說你按照他的配置,可以復(fù)制出一個(gè)一模一樣的bot,也可以在他的基礎(chǔ)上優(yōu)化、借鑒。這個(gè)功能不得不說是一個(gè)很好的學(xué)習(xí)智能體的方式。 以下是創(chuàng)建一個(gè)新的bot的頁面,設(shè)計(jì)起來很方便,完全不用懂代碼。配置語言模型,無需懂配置參數(shù),編寫prompt,提示詞優(yōu)化功能非常好用,驚嘆AI的語文確實(shí)比我們學(xué)得好。中間是各種技能配置,插件點(diǎn)擊添加,直接在插件市場(chǎng)選好添加即可,基本不用專有參數(shù)配置,除非你要做比較復(fù)雜的智能體。工作流就是智能體的任務(wù)比較復(fù)雜,要用流程化的方式,把多個(gè)prompt單獨(dú)設(shè)計(jì),流程串聯(lián)。零代碼的人有一點(diǎn)難度。可以配置私有知識(shí)庫,操作簡便。帶有私有知識(shí)庫的bot,參數(shù)配置不會(huì)公開。 開場(chǎng)白這個(gè)不多說了,文字操作即可。最右側(cè)是調(diào)試區(qū)域,需要點(diǎn)贊的是,對(duì)話框有文檔上傳功能,這個(gè)對(duì)于一些長文檔理解類智能體,非常友好。可以不斷地在右側(cè)通過問答調(diào)試提示詞及配置信息,到理想情況下就可以發(fā)布了。4.Bot智能體可發(fā)布到多個(gè)平臺(tái)扣子做好的Bot,可以發(fā)布到多個(gè)平臺(tái)應(yīng)用。包括bot商店、豆包、飛書,這幾個(gè)都是自己自己的應(yīng)用平臺(tái)。除此以外,還可以在微信平臺(tái)發(fā)布,以及掘金平臺(tái)發(fā)布。多平臺(tái)發(fā)布,可以大幅增加智能體的曝光和用戶使用。不過目前可能跨平臺(tái)的Bot功能使用還存在一些問題,比如我在扣子制作的“AI秒讀標(biāo)書”Bot,在Bot商店可以正常使用文檔上傳功能,但是發(fā)布到豆包的版本,就沒有文檔上傳按鈕了。在飛書里面的使用也存在發(fā)揮不太穩(wěn)定的情況。跨平臺(tái)發(fā)布,bot的封裝、功能一致性、穩(wěn)定性還需要優(yōu)化。講了這么多,總的有個(gè)實(shí)戰(zhàn)環(huán)節(jié),我給大家分享一個(gè)我自己做的智能體——AI投標(biāo)助手。在扣子上的使用地址為:https://www./s/iYEcHfpq/也可以在扣子Bot商店中搜索:“投標(biāo)助手” 這款智能體,可以實(shí)現(xiàn)上傳采購文件后,不需要輸入任何提示詞,就可以自動(dòng)提取出標(biāo)書文件中多達(dá)20多項(xiàng)的關(guān)鍵信息,自動(dòng)標(biāo)注原文內(nèi)容、引用章節(jié)、所在頁碼。這款智能體的開發(fā),也非常感謝公眾號(hào)的一位用戶,他看完文章后,私信交流希望可以有一整個(gè)prompt,能夠一次性把標(biāo)書的所有關(guān)鍵信息都整體出來,而不是一條一條的問答。我寫了比較完整的提示詞,測(cè)試了kimi對(duì)話,發(fā)現(xiàn)達(dá)不到理想的效果。于是我做了這款智能體,剛好扣子接入了kimi大模型,而我測(cè)試AI讀標(biāo)書,最穩(wěn)定、最精準(zhǔn)的輸出就是kimi。剛好可以在扣子平臺(tái)實(shí)現(xiàn)功能需求。最終AI問答,和智能體自運(yùn)行對(duì)比下來,智能體的執(zhí)行效果要好很多。實(shí)際上現(xiàn)在AI大模型在特定的具體業(yè)務(wù)場(chǎng)景中使用的精準(zhǔn)性、穩(wěn)定性、專業(yè)性還存在一定差距,相當(dāng)于汽車智能駕駛分級(jí)的初級(jí)階段。AI Agent/AI Bot是大模型應(yīng)用的重要載體,在落地行業(yè)、場(chǎng)景應(yīng)用方面的前景十分廣闊。AI Agent/AI Bot就像APP一樣,基礎(chǔ)大模型廠商的競(jìng)爭必然最后是一個(gè)寡頭格局,剩下少數(shù)的幾家、十幾家,如同手機(jī)操作系統(tǒng)。應(yīng)用商店則會(huì)多一些,為基礎(chǔ)大模型、行業(yè)大模型接入,智能體開發(fā)者提供平臺(tái)資源、技術(shù)和用戶支撐。 智能體就是應(yīng)用商店的一個(gè)個(gè)APP,不過借助AI技術(shù),智能體的開發(fā)比APP更加容易,開發(fā)一個(gè)好的智能體,核心競(jìng)爭力已經(jīng)不在于編程和代碼的技術(shù)因素,而在于專家級(jí)的業(yè)務(wù)理解、專有知識(shí)和數(shù)據(jù)積累。不提供AI產(chǎn)出的提示詞模板,都是耍流氓。所以,我給大家介紹智能體,一定要是我自己親自實(shí)踐過,才會(huì)拿出來跟大家分享。
我是在管理咨詢行業(yè)工作超10年的顧問輕舟,擁抱AI,效率賦能。 下期見~
AI咨詢?nèi)Γ?/span>讓腦力工作者學(xué)習(xí)AI少走彎路,基于職場(chǎng)角色+工作場(chǎng)景,賦能AI實(shí)踐,讓閱讀更有效率、更具價(jià)值。
|