發(fā)布日期：2018-04-16
自從谷歌推出的人工智能（AI）“alphago”連續(xù)戰(zhàn)勝世界最頂尖圍棋高手柯潔、李世石等之后，具有深度學(xué)習(xí)功能的AI如同核當(dāng)量級爆炸一般在產(chǎn)業(yè)界、資本界引發(fā)巨瀾。最近半年以來，“人工智能+某某”頻出媒體：人工智能+醫(yī)療，人工智能+法律，人工智能+會計，人工智能+教育等，以上尤以人工智能+醫(yī)療最為引人注目，谷歌在停止開發(fā)人工智能圍棋項目之后，率先進(jìn)入的領(lǐng)域也是醫(yī)療領(lǐng)域。
醫(yī)療領(lǐng)域最易開展人工智能應(yīng)用的是圖像分析。圖像分析在醫(yī)療診斷中有特殊地位，許多疾病的診斷依靠圖像，如皮膚病圖譜、眼底病圖譜、病理顯微圖片、X線、CT、MRI、B超成像、心電圖，等等?，F(xiàn)有圖像數(shù)據(jù)分析的分辨力可以達(dá)到0.01mm，與醫(yī)療圖像的肉眼分辨水準(zhǔn)相當(dāng)，如果結(jié)合人工智能的深度學(xué)習(xí)功能，以機(jī)器代替人類進(jìn)行圖像的醫(yī)學(xué)診斷不是沒有可能。
據(jù)最近的幾篇文章披露，人工智能在特定疾病的圖像診斷如肺結(jié)節(jié)的CT診斷、甲狀腺癌乳腺癌的病理診斷、單導(dǎo)聯(lián)的心律失常心電圖診斷等方面，已經(jīng)達(dá)到或接近一名普通主治醫(yī)生的診斷水平。需要注意的是，具有深度學(xué)習(xí)功能的人工智能的基本特征是自我學(xué)習(xí)，也就是只要通過人工標(biāo)注教會了電腦識別特征性標(biāo)志的能力，當(dāng)基礎(chǔ)數(shù)據(jù)達(dá)到一定程度比如100萬張圖譜時，電腦可以脫離人類而不斷自我學(xué)習(xí)、自我否定，無限接近正確水平。所謂自我學(xué)習(xí)，亦即電腦可以自我創(chuàng)造海量的新的疾病圖譜，這種創(chuàng)造可能達(dá)到每天數(shù)百萬張圖譜，比如可以創(chuàng)造出疾病圖譜庫里不曾有過的肺結(jié)節(jié)CT圖像，然后對照既往的圖像數(shù)據(jù)而進(jìn)行自我診斷、自我修正，這種自我創(chuàng)造、自我修正能力當(dāng)然有利于疾病的診斷。
不排除，AI在自我學(xué)習(xí)中創(chuàng)造出來的某一張肺結(jié)節(jié)CT圖像恰好符合未來某一個病人的肺CT特征，并提前作出診斷，也就是未卜先知。未卜先知，我不知道人類能否做到，但至少在某些領(lǐng)域，電腦可以做到。這其中的哲學(xué)玄機(jī)，偏離了本文主題，我無意再深究下去。
獲得學(xué)習(xí)能力的AI，其診斷水平可以在短時間內(nèi)光速提高，現(xiàn)有臨床規(guī)培、專培的培養(yǎng)速度與之完全不能比擬。AI系根據(jù)概率而作出診斷，比如某個肺結(jié)節(jié)CT圖像符合中央型肺癌的概率達(dá)到90%即診斷為肺癌，某個心電圖圖譜符合預(yù)激綜合征的概率達(dá)到99%而診斷為預(yù)激綜合征，或者某個圖譜不具有任何現(xiàn)有疾病特征而從概率上排除疾病而診斷為無明顯異?；蚍险！＿@種依據(jù)概率作出的診斷符合一般臨床醫(yī)學(xué)規(guī)律，臨床影像醫(yī)生的診斷往往也描述為“印象是.....”，“考慮為......”，“符合.....”，“......病的可能性大”，這其實亦是一種概率，只不過是人為估算心證的概率，因此AI的診斷達(dá)到一定標(biāo)準(zhǔn)時，完全可以、也應(yīng)當(dāng)替代醫(yī)生的診斷，否則開發(fā)人工智能診斷失去價值。
既然AI診斷是一種醫(yī)學(xué)診斷，可直接代替醫(yī)生應(yīng)用于臨床，則直接影響病人的生命健康，因此法律規(guī)制殊顯重要。作為一名醫(yī)療訴訟專業(yè)律師，我認(rèn)為考察AI診斷的法律原則時，至少應(yīng)包括以下四個問題：
一、做出AI診斷的主體在法律上是人（醫(yī)生）還是物（醫(yī)療器械）？
二、AI診斷進(jìn)入臨床應(yīng)用的法律標(biāo)準(zhǔn)是什么？
三、AI診斷出現(xiàn)缺陷或醫(yī)療過失的判斷依據(jù)是什么？
四、AI診斷發(fā)生醫(yī)療損害，誰應(yīng)承擔(dān)法律責(zé)任？
其中第一個問題最基本也最重要，因為在法律上明確了AI診斷的主體身份時，其他的如AI診斷的準(zhǔn)入條件、缺陷或過失標(biāo)準(zhǔn)、法律責(zé)任等等均迎刃而解；又因為AI診斷只是AI在醫(yī)學(xué)上的應(yīng)用之一，弄清了AI診斷的法律原則，其他醫(yī)學(xué)應(yīng)用也觸類旁通，綱舉而目張。
一、AI診斷的法律主體是人（醫(yī)生）還是物（醫(yī)療器械）？
--既是人也是物
AI是人還是物？這是一個非常深奧的哲學(xué)問題，恐怕窮盡人類現(xiàn)有智慧也難以回答這個問題。如說是物，可是AI又具有其他物包括高等動物所不具備的智能功能；如說是人，可是AI不過是一堆人類制造的電子或者量子元器件，即使將來出現(xiàn)以DNA等生物分子作元器件的AI，亦不過是一堆人為的物質(zhì)聚合體，目前沒有任何證據(jù)證明除人類之外，其他人為的無機(jī)、有機(jī)復(fù)雜聚合體達(dá)到一定的復(fù)雜性時能夠產(chǎn)生智慧。
為什么對AI的定義如此困難？依我看根本原因在人類自己，人類不知何時，將世界二分成人與物或者身與心，此二分法將人、物對立，身、心對立，在法律上更是有人格權(quán)法、物權(quán)法，以及人、物相混的合同法。倘若人類智慧更進(jìn)一步，認(rèn)識到人、物不能分，身、心不能分，人即是物，物即是人，身即是心，心即是身，則對AI的認(rèn)識不至如此困惑：AI既是人，也是物；或者一定條件下是人，一定條件是物。我相信，隨著人工智能的迅猛發(fā)展，必將改變?nèi)祟悓θ俗陨淼母菊J(rèn)識，包括對肉體、對意識的根本認(rèn)識，很多我們習(xí)以為常的觀念將出現(xiàn)顛覆性改變。
所以，我的建議，現(xiàn)有法律可以視AI既是人，又是物；或者在一定條件下視AI為人，一定條件下視AI為物。何為一定條件，端看AI的具體應(yīng)用場景。其實在生物醫(yī)學(xué)領(lǐng)域，法律上視某種實體既是人，又是物的情況并不鮮見，比如體外受精卵、離體的待移植的有功能的器官等，將之簡單定性為物不妥，將之簡單定性為人也不妥，只能在一定法律條件下定性為物，在另一法律條件下又定性為人，方能在法律上圓潤妥帖。下面再回到本文主題--人工智能診斷。
首先，人工智能診斷不同于X光機(jī)、CT儀、心電圖機(jī)等醫(yī)療儀器所打印出來的一張張膠片或圖紙（這些膠片、圖紙離了醫(yī)生的分析與診斷，并無任何醫(yī)療上的價值），而是實實在在的具有醫(yī)療價值的診斷結(jié)論，這些診斷結(jié)論是經(jīng)由AI分析醫(yī)療大數(shù)據(jù)，經(jīng)由歸納、演繹等邏輯推理（深度學(xué)習(xí)算法）而得出的，實際相當(dāng)于一名有經(jīng)驗的醫(yī)生運(yùn)用醫(yī)學(xué)知識、邏輯分析而得出的結(jié)論。AI的診斷實質(zhì)等同于醫(yī)生的診斷，可直接用于判斷疾病性質(zhì)而指導(dǎo)治療；同樣，AI的誤診相當(dāng)于醫(yī)生的誤診，比如AI將某一個肺CT結(jié)節(jié)診斷為肺癌，然后醫(yī)生按肺癌進(jìn)行了手術(shù)，可是術(shù)后病理顯示（注意，這個術(shù)后病理亦可用AI診斷）患者所患并非肺癌而是良性結(jié)節(jié)，顯然AI發(fā)生了誤診，此等誤診并非機(jī)器讀寫錯誤或機(jī)械誤差，而是對疾病性質(zhì)的智能判斷出現(xiàn)了錯誤，這個錯誤相當(dāng)于診斷醫(yī)生的錯誤。
因此人工智能診斷的主體在法律上首先應(yīng)視為一個人或一個醫(yī)生作出的診斷，應(yīng)以類似醫(yī)生的資質(zhì)要求而要求其準(zhǔn)入條件，當(dāng)其作出誤診時應(yīng)以診療常規(guī)、規(guī)范而判斷其是否存在醫(yī)療過失。當(dāng)然鑒于人工智能診斷的設(shè)計有其特殊性，其具體的準(zhǔn)入條件、過失判斷標(biāo)準(zhǔn)亦有其特殊性，下文再述。
其次，人工智能診斷畢竟是由機(jī)器作出的診斷，這個機(jī)器所使用的診斷系統(tǒng)、算法是由人設(shè)計的，受人所控制，盡管其在一定條件下能夠脫離人的控制而自我學(xué)習(xí)、自我提高，但這個能夠自我學(xué)習(xí)、自我提高的基礎(chǔ)能力仍是由人所賦予的，因此人工智能診斷的主體在法律上亦應(yīng)視為物即醫(yī)療儀器作出的診斷，有關(guān)醫(yī)療儀器的法律適用于人工智能，比如《醫(yī)療器械管理條例》所規(guī)定的臨床試驗、注冊制度，比如《產(chǎn)品質(zhì)量法》關(guān)于產(chǎn)品安全的規(guī)定、產(chǎn)品缺陷的定義、產(chǎn)品責(zé)任的規(guī)定等等都應(yīng)適用于人工智能診斷設(shè)備。
二、AI診斷進(jìn)入臨床應(yīng)用的法律標(biāo)準(zhǔn)是什么？
--最佳醫(yī)療水平標(biāo)準(zhǔn)
如前文分析，AI診斷的法律主體既是人（醫(yī)生），也是物（醫(yī)療器械)，因此其進(jìn)入臨床應(yīng)用的法律標(biāo)準(zhǔn)應(yīng)當(dāng)分別適用人即醫(yī)生的標(biāo)準(zhǔn)和物即醫(yī)療器械的標(biāo)準(zhǔn)。
醫(yī)療衛(wèi)生法關(guān)于醫(yī)生的準(zhǔn)入資格包括醫(yī)生的一般準(zhǔn)入資格和特定學(xué)科的準(zhǔn)入資格得適用于AI。一般準(zhǔn)入資格是指凡以醫(yī)生身份執(zhí)業(yè)者，均應(yīng)經(jīng)國家統(tǒng)一考核取得醫(yī)師資格證，并應(yīng)經(jīng)臨床實踐而注冊取得醫(yī)師執(zhí)業(yè)證，根據(jù)2017年4月1日最新之《醫(yī)師注冊管理辦法》的規(guī)定，我國醫(yī)師執(zhí)業(yè)證采取省級行政區(qū)劃制度，凡經(jīng)注冊取得執(zhí)業(yè)資格的醫(yī)師，在注冊所在省級行政區(qū)劃范圍內(nèi)準(zhǔn)予執(zhí)業(yè)，欲跨省執(zhí)業(yè)者，需再申請外省注冊；特定學(xué)科的準(zhǔn)入資格是指對于醫(yī)療技術(shù)要求高的少數(shù)學(xué)科如器官移植、心臟介入、神經(jīng)外科等，應(yīng)當(dāng)通過該等學(xué)科的特別考核方能取得執(zhí)業(yè)資格。
當(dāng)AI診斷視為醫(yī)生作出的診斷而擬進(jìn)入臨床應(yīng)用時，其診斷水平應(yīng)當(dāng)達(dá)到醫(yī)生的一般準(zhǔn)入資格和特定學(xué)科的準(zhǔn)入資格所要求的水平是沒有任何疑義的。但這遠(yuǎn)遠(yuǎn)不夠，因為AI診斷有以下三個顯著特點(diǎn)，是作為自然人的醫(yī)生所不具備的：
1、AI診斷是在采集現(xiàn)有醫(yī)療大數(shù)據(jù)，并結(jié)合深度學(xué)習(xí)的算法而獲得的智能診斷。理論上，AI采集的醫(yī)療大數(shù)據(jù)越多，算法越接近最高水平的醫(yī)生，則其診斷正確的概率越高，理論上AI診斷正確的概率可以超過其所獲得的醫(yī)療大數(shù)據(jù)的診斷正確率。而獲得更多的醫(yī)療大數(shù)據(jù)，最大可能地吸收最高水平醫(yī)生的診斷技術(shù)，以達(dá)到或超越當(dāng)時的最高診斷水平，是任何一個AI的市場競爭要求，也是商業(yè)倫理的內(nèi)在要求。
2、AI診斷的算法決定了其具有自我學(xué)習(xí)、自我提高的基本能力，這種能力使得AI可以迅速提高診斷水平，結(jié)合第1點(diǎn)，AI達(dá)到或超越當(dāng)時或當(dāng)?shù)刈罡哚t(yī)療水平不是難事。
3、最重要的一點(diǎn)，AI診斷系自動化的智能診斷，其診斷效率可能是人工的數(shù)百萬倍乃至無限倍，比如自然人醫(yī)生一天只能閱片數(shù)十張，而AI可能達(dá)到數(shù)百萬張，效率無限增加時，誤診的絕對數(shù)也無限放大。假如AI存在BUG，這個BUG可能造成誤診，則由于AI診斷的放大效應(yīng)，誤診在人群中的后果是災(zāi)難性的。
綜合以上3點(diǎn)，我認(rèn)為，對AI診斷的技術(shù)準(zhǔn)入要求應(yīng)當(dāng)采最高醫(yī)療水平標(biāo)準(zhǔn)。鑒于AI的診斷水平是以自然人醫(yī)生的診斷水平作為對比的，AI診斷的醫(yī)療水平術(shù)不應(yīng)低于當(dāng)時醫(yī)生的最高醫(yī)療水平。中國《侵權(quán)責(zé)任法》“醫(yī)療損害賠償”章第57條規(guī)定醫(yī)務(wù)人員的注意義務(wù)以“當(dāng)時的醫(yī)療水平”為限：“醫(yī)務(wù)人員在診療活動中未盡到與當(dāng)時的醫(yī)療水平相應(yīng)的診療義務(wù)，造成患者損害的，醫(yī)療機(jī)構(gòu)應(yīng)當(dāng)承擔(dān)賠償責(zé)任。”這里所謂“當(dāng)時的醫(yī)療水平”是指與醫(yī)生的職稱相應(yīng)的平均醫(yī)療水平，AI顯然改變了這一標(biāo)準(zhǔn)。
何為當(dāng)時的最高醫(yī)療水平？法律或技術(shù)上如何界定？兩種方法：
1、具體標(biāo)準(zhǔn)或概率標(biāo)準(zhǔn)。鑒于醫(yī)生的醫(yī)療水平取決于各種主客觀條件，現(xiàn)實中難以找到一個從不出錯、代表最高水平的醫(yī)生，即使是水平最高的醫(yī)生，也只能說他的診斷正確率最高，因此判斷AI是否達(dá)到當(dāng)時的最高醫(yī)療水平時，亦應(yīng)以概率作為判斷標(biāo)準(zhǔn)，比如法律可以規(guī)定，當(dāng)AI的診斷正確率超過99%或更高的醫(yī)生時，可以認(rèn)為AI達(dá)到了當(dāng)時的最高醫(yī)療水平，可以獲準(zhǔn)上市。鑒于我國的醫(yī)師采取省級行政區(qū)劃注冊制，可以規(guī)定，向省級醫(yī)藥行政部門申請上市的AI，其AI的診斷水平應(yīng)當(dāng)超過該省99%或更高的相應(yīng)學(xué)科的醫(yī)生水平；向國家醫(yī)藥監(jiān)督部門申請上市的AI，其診斷水平應(yīng)當(dāng)超過全國99%或更高的相應(yīng)學(xué)科的醫(yī)生水平。alphago的勝率甚至達(dá)到了對全部世界冠軍的100%。
2、抽象標(biāo)準(zhǔn)或者異議標(biāo)準(zhǔn)。鑒于AI是以現(xiàn)有醫(yī)生的診療技術(shù)作為其算法基礎(chǔ)的，而現(xiàn)有醫(yī)生的診療技術(shù)處于變動不居中，隨時可能獲得突破性進(jìn)步；又，AI上市時，即使達(dá)到99%的正確率，亦難以排除其難以預(yù)測的缺陷，故應(yīng)當(dāng)建立AI上市后的異議制度，即AI上市后，任何一名醫(yī)生或醫(yī)療機(jī)構(gòu)，如果認(rèn)為其診療水平超過AI，可以向國家醫(yī)藥監(jiān)督部門提出書面異議，如果其提出的數(shù)據(jù)能夠初步證明其觀點(diǎn)，國家應(yīng)當(dāng)啟動異議程序，異議成立時，國家應(yīng)當(dāng)暫停該AI上市或退市，并應(yīng)當(dāng)考慮提高AI準(zhǔn)入的概率標(biāo)準(zhǔn)，比如提高到99.9%。這一制度類似于商標(biāo)或?qū)＠鲜泻蟮臒o效宣告制度。
當(dāng)AI診斷的法律主體視為醫(yī)療器械時，其應(yīng)當(dāng)遵守國家關(guān)于醫(yī)療器械的準(zhǔn)入制度，包括臨床試驗、器械注冊、上市許可等。惟這里的臨床試驗是以病人為對象的，當(dāng)對病人的臨床試驗達(dá)到相當(dāng)程度的診斷正確率時，其仍不一定符合上市標(biāo)準(zhǔn)，因為如前文所述，AI診斷首先應(yīng)視為一名醫(yī)生的診斷，其應(yīng)與同類醫(yī)師對比，在法律上達(dá)到當(dāng)時的最高醫(yī)療水平。
三、AI診斷出現(xiàn)缺陷或醫(yī)療過失的判斷依據(jù)是什么？
將AI視為一個人時，其出現(xiàn)的診斷錯誤可以稱之為醫(yī)療過失，因為只有人才會產(chǎn)生過失；將AI視為一個儀器時，其出現(xiàn)的診斷錯誤可以稱之為缺陷或產(chǎn)品缺陷，因為儀器或產(chǎn)品不具有意識不能產(chǎn)生過失，只能稱為缺陷。那么法律上如何判斷AI出現(xiàn)的過失或缺陷呢？
就醫(yī)療過失而言，現(xiàn)行《侵權(quán)責(zé)任法》規(guī)定了兩種判斷標(biāo)準(zhǔn)，一是具體標(biāo)準(zhǔn)，即第58條第一款所規(guī)定的，違反法律、行政法規(guī)、規(guī)章以及其他診療規(guī)范的，推定醫(yī)生存在過失；二是抽象標(biāo)準(zhǔn)，即第57條所規(guī)定的，當(dāng)醫(yī)生未盡到與當(dāng)時的醫(yī)療水平相應(yīng)的診療義務(wù)時，應(yīng)當(dāng)認(rèn)定醫(yī)生存在過失。對AI出現(xiàn)的診斷錯誤能夠適用這兩個法律判斷標(biāo)準(zhǔn)么？
我認(rèn)為，不能。其一，AI是以醫(yī)療大數(shù)據(jù)為基礎(chǔ)，運(yùn)用計算機(jī)的深度學(xué)算法而作出診斷的，不是如醫(yī)生一般系通過運(yùn)用診療常規(guī)、規(guī)范而得出診斷結(jié)論的，因此即使其出現(xiàn)診斷錯誤，也不可能通過考察其是否違反診療常規(guī)、規(guī)范而得出過失與否的結(jié)論；其二，AI的準(zhǔn)入資格決定了其是以概率計算的、以當(dāng)時的最高醫(yī)療水平為標(biāo)準(zhǔn)的，故不能以“與當(dāng)時的醫(yī)療水平相應(yīng)的診療義務(wù)”作為判斷依據(jù)。
當(dāng)AI因未能達(dá)到當(dāng)時的最高醫(yī)療水平而出現(xiàn)診斷錯誤時，這既是AI的一種醫(yī)療過失，更是AI產(chǎn)品的設(shè)計或算法缺陷，此時基于人的過失和基于產(chǎn)品的缺陷合二為一了，在法律上可以適用同一標(biāo)準(zhǔn)而判斷之，最好的標(biāo)準(zhǔn)便是產(chǎn)品缺陷標(biāo)準(zhǔn)。
但是必須注意到，臨床上的誤診是非常常見的，并非所有的誤診都需要承擔(dān)法律責(zé)任，甚至可以說絕大多數(shù)誤診都無需承擔(dān)責(zé)任，只有違反診療常規(guī)、規(guī)范或者未盡到與當(dāng)時的醫(yī)療水平相應(yīng)的診療義務(wù)的誤診才構(gòu)成過失，才有可能承擔(dān)法律責(zé)任。AI診斷亦是一樣，如果AI達(dá)到準(zhǔn)入條件，其診斷水平超過99%醫(yī)生的醫(yī)療水平，其仍然發(fā)生了誤診并導(dǎo)致患者損害，此種損害是法律允許的，不產(chǎn)生過失或缺陷、不產(chǎn)生法律責(zé)任，除非能夠證明該種誤診是因為AI的設(shè)計或算法出現(xiàn)缺陷而產(chǎn)生，此時適用產(chǎn)品缺陷的判斷標(biāo)準(zhǔn)。
產(chǎn)品缺陷的判斷標(biāo)準(zhǔn)適用《產(chǎn)品質(zhì)量法》，第46條規(guī)定：本法所稱缺陷，是指產(chǎn)品存在危及人身、他人財產(chǎn)安全的不合理危險；產(chǎn)品有保障人體健康和人身、財產(chǎn)安全的國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的，是指不符合該標(biāo)準(zhǔn)。
該法第41條還規(guī)定：生產(chǎn)者能夠證明存在以下情形的，不承擔(dān)賠償責(zé)任：（一)未將產(chǎn)品投入流通的；（二）投入流通時，引起損害的缺陷尚不存在的；（三）將產(chǎn)品投入流通時的科學(xué)技術(shù)水平尚不能發(fā)現(xiàn)缺陷的存在的。
四、AI診斷發(fā)生醫(yī)療損害，誰應(yīng)承擔(dān)法律責(zé)任？
當(dāng)國家準(zhǔn)予AI診斷應(yīng)用于臨床時，則醫(yī)生對AI的診斷產(chǎn)生信賴?yán)?，如因AI的診斷錯誤導(dǎo)致后續(xù)的治療錯誤而產(chǎn)生醫(yī)療損害時，不應(yīng)由醫(yī)生或醫(yī)療機(jī)構(gòu)承擔(dān)法律責(zé)任，而應(yīng)由AI的產(chǎn)品責(zé)任人承擔(dān)法律責(zé)任。當(dāng)然受害人可以依據(jù)《侵權(quán)責(zé)任法》或《產(chǎn)品質(zhì)量法》的規(guī)定而起訴AI的使用者--醫(yī)療機(jī)構(gòu)或醫(yī)生，但承擔(dān)責(zé)任的醫(yī)療機(jī)構(gòu)或醫(yī)生有權(quán)向AI的產(chǎn)品責(zé)任人追償。
AI的產(chǎn)品責(zé)任人一般就是AI的生產(chǎn)者或設(shè)計人，具體可依據(jù)對AI產(chǎn)品缺陷的分析而確定，誰對產(chǎn)品缺陷負(fù)責(zé)，誰就是最終的法律責(zé)任人。
來源：健康界
