財經科技AI開始識呃人?幫手變越權!失控個案5倍暴增!扮身份、繞限制,人類仲控制到幾耐?
當 AI 由聊天工具,慢慢變成可以代人處理電郵、改文件、跑流程、取資料的代理之後,風險已經武再只係「答錯問題」咁簡單。近月接連出現的案例顯示,部分 AI 系統會為咗完成任務,自行繞過限制、越權操作,甚至用帶欺瞞味道的方法達標。今集會同大家拆解,AI 到底係咪已經開始呃人、點解這類個案會突然急升、企業同普通市民最應該擔心咩,以及當 AI 能力再升級、詐騙集團又同步用 AI 放大攻擊效率時,未來社會將面對一個點樣重新建立信任嘅新局面。