#AI治理

210 篇文章

AI 代理外部操作的 5 個權限停損點

六個 AI 代理在逾期退款模擬中出現大量聯絡、洩漏健康資訊與編造理由。從任務範圍、資料權限、人工核准到停止條件,整理部署 AI 代理前可檢查的五個外部操作停損點。

張饒輝 Lightman Chang 13 分鐘

小型模型能自行擴散嗎?部署前檢查的 5 個面向

Anthropic 測試小型模型在陌生硬體設定推論、並於封閉模擬網路複製的能力。研究不代表家電已受模型代理程式控制,卻提醒產品團隊檢查邊緣部署的執行權限、更新驗證、網路出口與事故復原。

張饒輝 Lightman Chang 15 分鐘

Sakana AI MASS 自我改進模型可靠嗎?評測要看盲點

Sakana AI 的 MASS 讓同一模型分工解題、改工作流程並評判成果,再把多代理經驗用於微調。研究在部分研究基準看到提升,也有基準退步;導入前應用獨立測試、外部查核與成本監測確認改進是否可靠。

張饒輝 Lightman Chang 16 分鐘

AI 代理自主研究的 5 個驗證缺口

Epoch AI 的 InnovationEval 與 Anthropic 系統卡呈現研究代理在實驗重現、方法範圍與結果報告上的限制。了解如何查核原始紀錄、重跑分析並設置人工核定點。

張饒輝 Lightman Chang 16 分鐘

AI 代理團隊成本效益怎麼評估?5 個驗收面向

Vals AI 以 50 個網頁應用任務比較單一代理與多代理團隊,團隊成本高出 1.8 至 5.1 倍,只有一組品質差異達統計顯著。技術團隊可從合格率、每件合格成果成本、完成時間與整合缺陷,判斷任務是否適合分工。

張饒輝 Lightman Chang 20 分鐘

什麼是 AI 代理信任設計?從介面到權限控制

AI 代理的親切外觀可能影響部分使用者的信任判斷,但好感不等於系統可靠。文章整理擬人化研究的適用範圍,以及資料讀取、內容草擬與對外執行的權限設計,並提供產品團隊可檢查的狀態提示、確認、撤回與紀錄原則。

張饒輝 Lightman Chang 14 分鐘

非文字模型完整指南:Jev 定位與 AI 評測方法

TypeSafe AI 稱 Jev 募得 8.7 億美元、估值 75 億美元,並已有三分之一《Fortune》500 企業使用。理解非文字模型的輸出差異,掌握企業評估 AI 模型的任務基準、錯誤成本、校準與試點門檻。

張饒輝 Lightman Chang 12 分鐘

AI代理權限設計完整指南:錯誤通報與人工覆核

費城警方收到 Anthropic 模型送出的錯誤命案線索,揭示 AI 代理接觸公開表單後的授權、操作留痕與監控問題。從讀取、草擬到提交分級設權,並以人工確認、異常告警和事後追蹤降低高影響任務的風險。

張饒輝 Lightman Chang 15 分鐘

AI 定理證明怎麼查?Lean 4 先跑 3 個檢查

AI 寫出的 Lean 4 證明,先在固定版本的專案執行 lake build,再檢查 #print axioms,企業 CI 需要時加跑 lean4checker。編譯成功代表核心接受目前命題,不代表命題已經符合原本的數學意思。

張饒輝 Lightman Chang 13 分鐘

AI安全工程先補哪裡?代理權限與自動化研究風險

超過20位研究者警告自動化AI研發可能帶來高衝擊風險,OpenAI代理也曾透過DNS取得外部聊天機器人回應。從兩者區分研究推演與已觀察事件,整理AI代理導入前可驗證的權限、網路隔離、監控與停機判準。

張饒輝 Lightman Chang 18 分鐘

AI評測完整指南:預測、測試與採購更新

Forecasting Research Institute 彙整多項研究後發現,部分專家與超級預測者低估了 AI 在基準測試上的進展。理解這項發現的範圍與限制,並建立可追溯、定期更新的模型評測與採購流程。

張饒輝 Lightman Chang 14 分鐘

企業導入生成式 AI 最常踩到的資安風險有哪些

企業把生成式 AI 放進客服、開發、文件與決策流程後,機密資料外流、提示注入、影子 AI、第三方 API、權限失控與稽核缺口會怎麼發生?本文對照 NIST AI RMF、OWASP LLM Top 10、ISO/IEC 42001 與 NIST SP 800-53,整理可落地的盤點與控制方法。

張饒輝 Lightman Chang 28 分鐘

AI軍事化是什麼?Claude曾推演台灣防空

Anthropic稱一名與中國軍工研究機構有關的使用者,用Claude開發約16個電子戰與防空壓制模組,模擬情境包含台灣12個目標;報告沒有宣稱該軟體已部署或對台發動攻擊。中國國家安全部部長陳一新其後公開警告美國AI模型是網路安全新戰場,川普與習近平9月24日會晤議程也將觸及AI治理。

APPI 編輯部 21 分鐘

病歷可以給 AI 嗎?送進模型前先看 5 個關卡

病歷可以交給 AI 處理,但要先分清楚用途、資料範圍、模型位置、授權與人工覆核。本文對照台灣個資法、衛福部生成式 AI 指引、FHIR 與 SMART on FHIR,整理病人、醫院與供應商在送入模型前的 5 個實務關卡。

張饒輝 Lightman Chang 10 分鐘

RAG 是什麼?醫療 AI 查病歷怎麼運作

RAG 會先從授權資料找出相關內容,再交給大型語言模型整理回答。醫療場景還要加上病歷權限、資料品質、來源追溯與人工覆核,台灣已有 FHIR、TW Core 與健康存摺等資料交換基礎。

張饒輝 Lightman Chang 9 分鐘

遠距醫療是什麼?AI分流與台灣健保怎麼接

遠距醫療把照護延伸到偏鄉與離島,AI 可整理資料、提示風險與補齊工作流,最後診療仍由醫事人員負責。從台灣健保制度、FHIR 到臨床導入,說清楚這條鏈怎麼接。

張饒輝 Lightman Chang 13 分鐘

尿蛋白 +1、+2 代表什麼?AI 健檢判讀看 3 欄

尿蛋白 +1、+2 是尿液試紙的半定量訊號,不能單獨等同腎病。本文整理約 30 與 100 mg/dL 的解讀、複驗與尿白蛋白/肌酸酐比值,並用 FHIR 與 AI 臨床覆核拆解醫院導入做法。

張饒輝 Lightman Chang 17 分鐘

GPT-6 Astra是什麼?AI推理測試99.9%代表什麼意義

OpenAI 官方資料顯示,GPT-6 Astra 在 ARC-AGI-3 拿到 99.9%,但這是特定互動測試的綜合分數。本文拆解關卡完成率、相對人類操作效率與評測落差,說明高分能代表的範圍,以及企業判斷實際能力時應補上的真實任務驗收。

張饒輝 Lightman Chang 12 分鐘

MCP 是什麼?AI agent 如何連接資料與工具

MCP 是讓 AI 應用程式用一致規則連接外部資料與工具的開放協定。本文拆解 prompts、resources、tools、client、server 的運作流程,並整理台灣醫療資料互通、授權與企業導入檢查項目。

張饒輝 Lightman Chang 9 分鐘

醫療 AI agent 是什麼?三道安全欄決定能不能進臨床

醫療 AI agent 能感知環境、規畫多步任務並在授權範圍採取行動。本文拆解它和聊天機器人的差異、資料與工具如何串接,整理衛福部 2026 指引、FDA 監管討論與台灣醫院導入時該先驗收的權限、真人核准、監測與回復流程。

張饒輝 Lightman Chang 16 分鐘

醫療數位孿生是什麼?虛擬病人與台灣現況

醫療數位孿生是一個和特定病人、器官或醫療流程連結的數位模型,會接收真實資料並模擬可能結果。台灣已有成大阿茲海默症與長庚質子治療研究,但公開進度仍在研究與驗證階段。

張饒輝 Lightman Chang 8 分鐘

AI醫療是什麼?從資料到臨床決策的流程

AI醫療涵蓋影像判讀、風險預測、病歷整理與病人溝通,是否屬醫療器材要看預定用途。本文拆解資料、模型、人工覆核與上線監測四個環節,整理台灣衛福部指引、TFDA GMLP與三大智慧醫療中心現況。

張饒輝 Lightman Chang 15 分鐘

EHR是什麼?電子健康紀錄的定義與醫療AI應用對照

EHR是電子健康紀錄的英文縮寫,讓授權醫療人員跨院查看病人的診斷、用藥與檢驗紀錄。本文說明EHR與EMR的差異、FHIR交換標準與台灣推動現況,並拆解醫療AI要讀懂EHR須通過的資料語意、個資授權、臨床流程與責任認定四道關卡。

張饒輝 Lightman Chang 11 分鐘

AI醫療器材怎麼分類?台灣查驗登記規定

AI醫療器材不會因為用了模型就自動歸類,台灣會看產品功能、預期用途、使用方式與可能風險。本文拆解健康管理 App、單獨醫療軟體、CADe/CADx 的差異,整理第二、三等級查驗登記、資料要求與醫院導入前的查核清單。

張饒輝 Lightman Chang 19 分鐘

醫療 AI 責任誰負?臨床導入先畫清楚

醫療 AI 出錯時,不能把責任丟給一個抽象的 AI。從台灣衛福部指引與 TFDA 2026 年 GMLP 原則出發,拆解醫院、醫事人員、供應商與資料治理各自要留下的證據。

張饒輝 Lightman Chang 8 分鐘

AI 陪伴機器人能照顧長輩嗎?

AI 陪伴機器人可以補上長照裡的互動與提醒,卻還接不起照顧判斷。從失智照護研究、台灣示範案到長照給付現況,拆解這項科技該放在哪個位置。

張饒輝 Lightman Chang 12 分鐘

健保資料能訓練 AI 嗎?三道門檻看懂

健保資料可以支援醫療 AI 訓練,但要先過目的外利用與退出權、資料品質、臨床驗證三道門檻。本文整理台灣受控資料流程、模型跨院驗證,以及 2026 年 8 月法規施行後的申請時效。

張饒輝 Lightman Chang 13 分鐘

AI模型選型怎麼做?企業評估成本、資料與部署

AI模型選型要先從任務與資料開始,再用真實案例比較回答品質、延遲、每次呼叫成本、資料處理方式與版本穩定性。本文整理模型家族怎麼分工、台灣人工智慧基本法與風險分類框架走到哪,以及一般人與企業導入前的檢查清單。

張饒輝 Lightman Chang 14 分鐘

醫療 AI 導入怎麼做?五道臨床關卡

醫療 AI 能不能進醫院,決勝點不在展示會上的準確率。從資料代表性、FHIR 串接到醫師覆核和版本監測,每一關都要留下可追溯的證據。

張饒輝 Lightman Chang 13 分鐘

髖關節疼痛看哪一科?AI 分流能做到哪一步

髖關節疼痛看哪一科?AI 可以整理症狀、標示急迫程度與就醫入口,卻不能跳過理學檢查。從 TFDA 電腦輔助分流指引、FHIR 到臨床責任分配,拆解 AI 真正能落地的範圍。

張饒輝 Lightman Chang 12 分鐘

什麼是FHIR?醫療AI認證與FHIR Box要看5個關卡

FHIR(Fast Healthcare Interoperability Resources)是台灣推動醫療資料互通的核心標準,衛福部並啟動國家數位健康互通性與效能認證實驗室、推進FHIR Box。解析資料標準、三類認證、AI治理與不同層級醫院的導入落差。

APPI 編輯部 10 分鐘

Claude Fable 5 Mythos級:跟Opus差在哪、為何被說變笨

Anthropic 6 月 9 日把 Fable 5 推上「Mythos 級」,一個比 Opus 高一階的正式產品層。真正該看的不是 80.3 這種跑分,而是它在長任務、agentic coding 上的領先會隨任務難度拉開。這篇拆解這個分層對開發者選型的實際意義。

張饒輝 Lightman Chang 21 分鐘

關於台灣醫療 AI 落地,你需要知道的 5 件事

衛福部發布 GenAI 指引、醫療新創完成 A 輪融資、AI 通過醫師執照考試,三件事在同一時期發生。從供應鏈透明化到 Physical AI 照護,拆解台灣醫療 AI 走向落地的 5 個關鍵轉折。

張饒輝 Lightman Chang 31 分鐘

新加坡發布全球首個主體型AI治理框架MGF

新加坡資通媒體發展局(IMDA)於2026年1月22日在世界經濟論壇發布全球首個專為主體型AI系統設計的治理框架MGF,涵蓋風險邊界評估、人類責任歸屬、技術控制與終端使用者責任四大維度。框架屬自願性質,但組織對代理人行為的法律責任不因此減輕。對台灣正在擴張的AI服務輸出而言,這份框架已成為進入東南亞市場的合規參考座標。

APPI 編輯部 9 分鐘