人工智能的「安全性」
人工智能的「安全性」
人工智能爆發時，最有名的為ChatGPT。(資料圖片)
我拍擋創立的人工智能公司0xmd.com在日前已完成了首輪融資，現時有3萬個用戶，本年底在內地、美國、巴西開展業務。如無意外，明年應開始錄得利潤。
公司成立於一年多前，剛剛是人工智能開始
爆發的時刻，由於強手環伺，最有名的當然是ChatGPT，當時人們都取笑我們是傻瓜，有甚麼可能會戰勝這頭巨無霸呢？
我們的第一個信念，是在未來世界，除了ChatGPT、Grok、DeepSeek、通義千問這些無所不知的「智能大神」之外，還需要有一些專門的大型語言模型的人工智能，這正如所有的社交媒體均有「會議」的功能，但是「Zoom」這個專門用來開會的軟件依然大行其道，有著不可或缺的市場功能。
舉一個例子，我是研究中國古代歷史的：這從來是我的興趣，可是這直至近十多年，幾乎所有古書都上網了，方才把這研究變成可能。否則，就是手頭有上所有的古書，要想翻查資料，也不可能有這麼多的時間。
這一年來，我企圖用人工智能，幫我找資料，卻赫然發現，幾乎每個人工智能，不論中美，都有偽造古書的「習慣」，一不小心，不做fact check，就會中伏。我的拍擋之一Candice常研究佛經，她也說人工智能常常偽造佛經，又或者是真有其經，但卻沒有其文。
事實上，人工智能常講大話，不可靠，已是公開的事實了，尤其是以上的「智能大神」，更加是惡名昭彰。其實這只不過是人類講大話的延續：人工智能在「窮盡可能性」方面的確是遠勝人類，但在「安全性」方面，卻有著先天的缺陷，一來是不知怎的，它有「幻覺」(hallucination)，會說謊，二來是網上有大量不可靠的資訊，它很難避免吸收到這些虛假資訊。正是電腦時代所說的：Garbage in, garbage out。
我們研發0xmd.com，其中一項工作，就是維護其「安全性」，一是要「餵食」它可靠來源的資訊，二是要它承認不足，沒有把握的答案，寧願說不知，也不要亂吹一通。這正是專門性人工智能的其中一個重點。
政經密碼 - 周顯 舊文
本文作轉載及備份之用 來源 source: http://www.am730.com.hk
