生成式AI已經成為許多人工作與生活的日常,相關的技術進展與應用一有重大突破,往往躍居傳統與新興媒體的熱門議題,例如,用AI生成吉卜力風格的圖像,就引發大家爭相採用,但也引發此舉是否侵犯著作財產權的論戰,本期封面故事探討的部分,恰巧與LLM有關,不過,聚焦的議題是資安風險。
想要了解生成式AI可能面臨的資安問題,目前大家第一個想到的解析框架,來自在應用程式資安防護領域頗富盛名的OWASP組織,他們於2023年5月宣布,成立OWASP Top 10 for Large Language Models的計畫,8月發布1.0版內容,後續計畫名稱改為OWASP Top 10 for LLM Applications,最近一次更新是在2024年11月,稱為OWASP Top 10 list for LLM applications for 2025,一個月後,宣布成立OWASP Gen AI Security計畫,今年3月,更是將OWASP Top 10 for LLM Applications與Generative AI Lists納入OWASP Gen AI Security計畫。
而且,OWASP Top 10 for LLM Applications的正式文件內容,目前有英、中、印、葡、俄等5種語言的版本(原本有正體中文版本,很可惜後來被撤下),為了讓更多臺灣關心AI資安議題的人士更了解當中的說明,我們在稍早為了今年臺灣資安大會而籌備的《2025臺灣資安年鑑》,特別企畫「快速認識LLM應用程式10大風險」內容,希望拋磚引玉,協助大家得以做好AI資安。
因此,這個專題最初的構想就是快速導讀OWASP Top 10 for LLM Applications,然而,要想出一個能夠簡單表達概念的標題與圖像,卻不是那麼容易。
與執筆的資安主編羅正漢討論之後,我們想到用「安心上路」表達大家走向LLM應用的心情與期待,捨棄總是用「機器人」來象徵AI的比喻,而是改用「開車」前往生成式AI啟動的新世界,以此呈現人們駕馭新技術、朝美好未來前進的情景,而且,如果要順利抵達目的地,除了要了解如何駕駛車輛,更重要的是,必須知道路上可能出現哪些危險的狀況,才能夠更充分因應各種突如其來的變故,而在駕車的意象上,我們也刻意選擇「手握方向盤」的畫面,藉此呈現我們對新技術的使用,必須持續而有效地掌握,以便降低失控的可能性。
這個場景也讓我聯想到總統賴清德與副總統蕭美琴的競選廣告《在路上》,或許對我們如何安心使用AI帶來一些啟發。時任副總統的賴清德坐在總統蔡英文駕駛的車子,行駛在公路上,他說,外面好像風很大,但沒什麼感覺,因為總統開的車很穩,蔡英文也說,因為有副總統在旁邊照看,所以能夠讓她放心開,此時,導航系統的語音指示說重新調整路段、計算中,蔡英文與賴清德都說我們還是繼續直走、然後接快速道路,蔡英文此時表示,副手這個位置還是真的很重要,不能隨便用湊的,賴清德回應,也許我們做事的方式不一樣,但我們理念是一樣的,蔡英文也強調國會必須過半,國家才能走在對的路上。對照現在臺灣政局如今面臨的動盪,不禁使人感慨握住國家方向盤、影響國家方向的,的確並不只是執政者,在野者的理念與價值若無法與臺灣發展目標對齊,就會造成國家這臺大車無法穩定行駛。
之後,兩人交棒,蔡英文下車,改由賴清德擔任駕駛、蕭美琴上車坐在駕駛旁邊的位置,賴清德說,臺灣人很幸福,隨時可以出發、上山下海,他問蕭美琴:「你想怎麼走?」,蕭美琴說:「我們走民主路,民主路一直走」,賴清德也說:「那我們同一路」,接著兩人談到了臺灣有許多部分領先世界其他國家,沒有和平以及民主,就不是臺灣了。
人類文明發展到現在,關於國家與社會的有效治理仍是持續探討的議題,領導者與民眾的認知與處世態度都是關鍵,對於AI這樣新興應用而言,也不例外,面對未來,無論興奮或擔憂,別忘了我們是受此影響最大的主體,有了新技術幫忙,還是必須眼觀四面,耳聽八方,善用與發揮我們的心智與行動力,才能充分因應各種變局。