AI 會暴衝,你的韁繩在哪裡?

 

 

01_officehour182

 

 

作者:蔡依橙

 

這次聊一下 AI 在研究上的應用,關於 harness engineering 韁繩工程。

 

 

百花齊放的 AI 應用:免費、20、100、200 美金都有

 

這週末的開課,跟數十位同學們互動討論,感受到現在 AI 應用的百花齊放。

 


有免費的,有付費的。付費的有美金 20 的、100 的,也有 200 的。

 

有把免費 AI 調教得很適合自己應用流程的。也有指定要 100 美金方案使用 Claude Opus 來問答工作的。更有 200 美金方案,大量寫程式把自己的研究流程數位化的。

 

 

AI 能跑統計、處理文獻嗎?看你的程度

 

以「AI 能不能跑統計?以及 AI 能不能負責搜尋、篩選、萃取文獻?」的問題來說,對這每一位同學,我的回答都是不太一樣的。

 

如果是毫無基礎的同學,我會建議還是先學會手動比較好,之後再考慮開始探索各種工具。因為你總是要懂得怎麼去確認。

 

 

什麼是 Harness Engineering(韁繩工程)?

 

Harness engineering 叫做「韁繩工程」,意思就是,AI 很容易暴衝亂跑,你如何把他限制在一個範圍內,做正確的事情,往對的方向。

 

如果你沒有能力約束 AI,並確認 AI 產生的東西正確,那就非常危險。

 

但是,如果你是「很知道自己在做什麼」的同學,那些 AI 搜尋、篩選、萃取文獻的坑,你都遇過,也都寫好規則,甚至 python 程式,去做好你的數位韁繩,AI 不管用什麼模型,怎麼跑,都在你規範的範圍內正確工作,甚至還能自我檢核,最後生成全文,又能全部手做,用可被接受的統計軟體重現一次,那就沒問題。

 

 

手拉韁繩 vs 數位韁繩:兩條路怎麼選?

 

Harness engineering,可以是你自己手拉的韁繩,也可以是數位韁繩。手拉學起來快,也保留全手動的能力。數位韁繩打造比較花心神,需要注意的細節很多,但打造好了之後,有機會規模化。

 

能打造優秀數位韁繩的人,往往是以前就懂得全手動的人。因為他們清楚知道哪些地方容易搞錯,錯誤又該如何檢核。

 

 

找到適合自己的 AI 應用節奏

 

更高興的是,這些不同 AI 應用狀態的同學,在週末的研究課程,聽了我們建議的 AI 應用方式後,都覺得學到很多。

 

我們提供一個適合初學者的架構,你覺得手動其實比想像中的快,也很有安全感,那就手動。你覺得這樣的作法有機會寫成自己的自動化模式,那就去打造看看,也很好。

 

看到大家都有自己的想法,使用不同品牌的 AI 工具,覺得很不錯!

 

我們也會基於各位的問題跟現況,給予建議跟回饋,協助各位更上層樓!

 

 

近期課程

 

 

本篇發表於 Office Hour, 學員提問 並標籤為 , , , , , 。將永久鏈結加入書籤。