一條2022年就出現(xiàn)在互聯(lián)網(wǎng)醫(yī)療診療監(jiān)管文件中的常規(guī)提法,經(jīng)報道發(fā)酵后,竟成了醫(yī)療AI的一次“信譽危機”。
自互聯(lián)網(wǎng)醫(yī)療誕生以來,“嚴禁使用人工智能等自動生成處方”的原則在醫(yī)療界便是一以貫之的。無論生成處方還是問診,不管多聰明的機器人都難以勝任。這句一直推行的“鐵律”,為什么在當下卻觸發(fā)了輿論熱點?
DeepSeek今年春節(jié)大火,它的低成本、開源真正降低了使用門檻,人工智能的測試人人可做,它的“聰慧”有目共睹,提及它的能力評價似乎人人都有了發(fā)言權(quán)。但順著“嚴禁自動生成處方”的線索,人們發(fā)現(xiàn)了AI“幻覺”這個缺陷。輿論焦點從關(guān)注“嚴禁使用人工智能等自動生成處方”規(guī)范互聯(lián)網(wǎng)醫(yī)療行為的本意——監(jiān)管線上診療的“懶惰”行為,轉(zhuǎn)向探討智慧治療的安全性問題。這符合人們對新事物認知的規(guī)律,反映了當前我國AI+已經(jīng)深入百姓生活,而人們對于這些問題的關(guān)注和討論也將進一步催生技術(shù)創(chuàng)新。
一直以來,醫(yī)療質(zhì)量安全一直是衛(wèi)生健康領(lǐng)域的“生命線”。在新技術(shù)應(yīng)用層面,相關(guān)工作需通過充分討論、科學研判、試點推進、制度保障等步驟后才能開展;在具體的醫(yī)療系統(tǒng)臨床應(yīng)用前,也涉及項目立項、開展研究、臨床驗證、許可使用、示范應(yīng)用等諸多環(huán)節(jié),以確保新技術(shù)、新系統(tǒng)的應(yīng)用能夠安全、有效、成本可控,從而擔負起照護人民生命健康的使命。
具體到醫(yī)療AI,它在進入醫(yī)院為診療服務(wù)“出謀劃策”前,已經(jīng)經(jīng)過了專業(yè)的“調(diào)教”和“歷練”。別看它和你手機里的應(yīng)用可能都叫一個名字,卻是不一樣的。正式用于醫(yī)院的醫(yī)療大模型,通常涉及醫(yī)療數(shù)據(jù)分析、影像識別、輔助診斷等功能,這類應(yīng)用需要符合醫(yī)療行業(yè)的標準和規(guī)范,確保數(shù)據(jù)的安全性和準確性。而人們手機里的大模型應(yīng)用則更注重用戶體驗和便捷性,可成為日常生活中如語音識別、日程管理、信息查詢等智能助手。
所以,千萬不要再帶著手機里AI推薦的藥方去抓藥了!它沒有受過專業(yè)培訓,也沒有處方權(quán),吃出問題來,它可不負責。(作者/張佳星)