調(diào)研背景隨著人工智能技術(shù)的進(jìn)步,其在醫(yī)療領(lǐng)域的應(yīng)用越來(lái)越廣泛,如診斷、治療、護(hù)理等多個(gè)環(huán)節(jié)。但是在法律與監(jiān)管層面,當(dāng)前針對(duì)醫(yī)療人工智能的相關(guān)法律法規(guī)還不夠完善,缺乏具體規(guī)定和標(biāo)準(zhǔn),使得在認(rèn)定侵權(quán)責(zé)任主體、歸責(zé)原則等方面缺乏明確法律依據(jù)。醫(yī)療人工智能產(chǎn)業(yè)發(fā)展迅速,為保障產(chǎn)業(yè)的健康可持續(xù)發(fā)展,需要明確侵權(quán)責(zé)任等問(wèn)題,以規(guī)范市場(chǎng)秩序,保護(hù)各方合法權(quán)益。對(duì)此武漢大學(xué)法學(xué)院醫(yī)療人工智能侵權(quán)實(shí)踐隊(duì)的隊(duì)員們從患者、醫(yī)院、法院等多個(gè)角度展開(kāi)了18次個(gè)人實(shí)踐。
組織保障為了深入研究醫(yī)療人工智能侵權(quán)責(zé)任認(rèn)定問(wèn)題,學(xué)習(xí)貫徹習(xí)近平總書記系列重要講話精神和重要回信精神,發(fā)揚(yáng)共青團(tuán)員的優(yōu)秀品質(zhì),實(shí)踐隊(duì)成立臨時(shí)團(tuán)支部,由李紫瑤擔(dān)任臨時(shí)團(tuán)支部書記,李靜珊擔(dān)任組織委員,胡文卿擔(dān)任宣傳委員,為實(shí)踐的順利進(jìn)行提供了保障。
01患者角度的思考2025年1月21日,蘇丹陽(yáng)選擇個(gè)體經(jīng)濟(jì)從業(yè)者、心臟搭橋手術(shù)患者蘇良軍作為實(shí)踐對(duì)象,進(jìn)行了一次深入的訪談?wù){(diào)研。了解到醫(yī)療人工智能的應(yīng)用效果顯著:在心臟搭橋手術(shù)中,人工智能系統(tǒng)能夠精確分析患者的心臟狀況,制定科學(xué)的手術(shù)方案,并在手術(shù)過(guò)程中實(shí)時(shí)監(jiān)測(cè),確保手術(shù)的精準(zhǔn)性和安全性。但也需要加強(qiáng)監(jiān)管和規(guī)范使用,以防止數(shù)據(jù)泄露、誤診誤治等侵權(quán)問(wèn)題的發(fā)生。隊(duì)員蘇丹陽(yáng)從患者的角度出發(fā),了解到醫(yī)療人工智能潛在的缺陷,為相關(guān)法律問(wèn)題的研究提供的切口。
02醫(yī)院角度的思考1月17日:陳卓汐前往協(xié)和醫(yī)院調(diào)研隊(duì)員陳卓汐前往福建醫(yī)科大學(xué)附屬協(xié)和醫(yī)院,對(duì)基本外科副主任醫(yī)師林賢超醫(yī)生進(jìn)行了關(guān)于醫(yī)療人工智能應(yīng)用情況和侵權(quán)責(zé)任問(wèn)題的訪談。她了解到醫(yī)院已引進(jìn)兩臺(tái)內(nèi)窺鏡手術(shù)器械控制系統(tǒng),廣泛應(yīng)用于外科手術(shù);骨科配備專用手術(shù)臺(tái);影像科利用人工智能進(jìn)行影像初篩;胸外科也借助VR技術(shù)進(jìn)行肺結(jié)節(jié)手術(shù)。醫(yī)療AI的運(yùn)用已經(jīng)十分廣泛。但是相關(guān)的侵權(quán)問(wèn)題尚且沒(méi)有解決辦法。目前醫(yī)院尚無(wú)明確細(xì)則,醫(yī)療人工智能相關(guān)事故與普通醫(yī)療糾紛共同處理。林主任認(rèn)為,除非完全由機(jī)器人故障導(dǎo)致事故,否則責(zé)任主體應(yīng)為醫(yī)生。人工智能的診斷建議僅供參考,最終診斷責(zé)任仍由醫(yī)生承擔(dān)。
總而言之,醫(yī)療人工智能在臨床實(shí)踐中展現(xiàn)出顯著優(yōu)勢(shì),但也面臨技術(shù)故障、信息泄露等風(fēng)險(xiǎn)。未來(lái)需進(jìn)一步明確責(zé)任劃分,優(yōu)化工作流程,推動(dòng)醫(yī)療人工智能的廣泛應(yīng)用與發(fā)展。
1月22日:項(xiàng)馨嬋前往兩地進(jìn)行調(diào)研隊(duì)員項(xiàng)馨嬋前往上海市閔行區(qū)精神衛(wèi)生中心、浙江大學(xué)第四附屬醫(yī)院進(jìn)行調(diào)研。她發(fā)現(xiàn)在醫(yī)療AI的應(yīng)用實(shí)際方面,閔行區(qū)精神衛(wèi)生中心主要在醫(yī)療服務(wù)層面引入人工智能技術(shù),在治療層面目前應(yīng)用還不深入,僅有引入虛擬現(xiàn)實(shí)脫敏治療設(shè)備進(jìn)行心理干預(yù)的打算。而浙江大學(xué)第四附屬醫(yī)院作為一所綜合性醫(yī)院,在服務(wù)與治療層面,都對(duì)醫(yī)療AI有進(jìn)一步的深入應(yīng)用。引入醫(yī)療AI進(jìn)行輔助前,兩所醫(yī)院都有對(duì)醫(yī)護(hù)人員進(jìn)行技術(shù)培訓(xùn)的意識(shí),但引入醫(yī)療AI系統(tǒng)后的管理與風(fēng)險(xiǎn)規(guī)范制度,在兩所醫(yī)院都有所欠缺。
目前,兩所醫(yī)院均未針對(duì)醫(yī)療AI安排醫(yī)院內(nèi)部的專門管理人員與科室,且并未制定針對(duì)醫(yī)療AI的管理、風(fēng)險(xiǎn)規(guī)范制度。如若不幸發(fā)生與醫(yī)療AI相關(guān)的醫(yī)療事故,制度的欠缺將會(huì)為責(zé)任歸因帶來(lái)隱患。
醫(yī)療AI的應(yīng)用為患者帶來(lái)了切實(shí)的好處。但醫(yī)療AI在實(shí)際應(yīng)用中仍然存在法律與倫理上的風(fēng)險(xiǎn)精神健康領(lǐng)域,AI的應(yīng)用在倫理上存在較大隱患。同時(shí),人工智能技術(shù)體現(xiàn)著背后的語(yǔ)料庫(kù)與開(kāi)發(fā)者的價(jià)值觀。當(dāng)醫(yī)療AI被有心之人利用,可能會(huì)進(jìn)一步引導(dǎo)心理疾病患者走向絕望的深淵。
另一方面,在醫(yī)療事故的法律責(zé)任歸因上,目前醫(yī)院存在“一刀切”問(wèn)題,將責(zé)任歸于醫(yī)師以求迅速平息輿論。人工智能技術(shù)本身與技術(shù)開(kāi)發(fā)商或許是技術(shù)故障的主要責(zé)任方,但現(xiàn)存制度較難對(duì)技術(shù)進(jìn)行進(jìn)一步的追責(zé)。此時(shí),使用醫(yī)療AI的醫(yī)護(hù)人員將會(huì)面臨較大的壓力與風(fēng)險(xiǎn)。
項(xiàng)馨嬋認(rèn)為,制度制定的欠缺導(dǎo)致事故、侵權(quán)的責(zé)任歸因存在隱患,包括技術(shù)管理制度、應(yīng)急處理制度、責(zé)任歸因制度的明確制定。預(yù)防未來(lái)潛在的責(zé)任歸因難題,需要社會(huì)各界包括學(xué)界、政府、醫(yī)院一同努力,推動(dòng)醫(yī)療AI配套制度的完善,為人民群眾生命財(cái)產(chǎn)權(quán)利把好關(guān)。
1月21日:徐沈胤前往人民醫(yī)院調(diào)研隊(duì)員徐沈胤前往無(wú)錫市人民醫(yī)院進(jìn)行實(shí)地調(diào)研,從醫(yī)生和護(hù)士?jī)蓚(gè)不同的角度提出了思考。在采訪中,肝膽外科的主治醫(yī)師詳細(xì)介紹了機(jī)器人手術(shù)在肝葉切除、膽道修復(fù)、胰十二指腸切除等高精度手術(shù)中的應(yīng)用。他指出,機(jī)器人手術(shù)具備三大優(yōu)勢(shì):手術(shù)精準(zhǔn)度更高、術(shù)中出血量減少、術(shù)后恢復(fù)更快。然而,醫(yī)生也坦言,機(jī)器人手術(shù)仍存在三大挑戰(zhàn):設(shè)備依賴風(fēng)險(xiǎn)、高昂的設(shè)備成本、法律責(zé)任歸屬不明確。醫(yī)生強(qiáng)調(diào),雖然AI 提升了手術(shù)質(zhì)量,但醫(yī)生的經(jīng)驗(yàn)和判斷力依然是決定手術(shù)成敗的關(guān)鍵。
手術(shù)室護(hù)士長(zhǎng)的訪談更側(cè)重于護(hù)士的角色變化。她表示,機(jī)器人手術(shù)并未減少護(hù)士的工作量,反而讓護(hù)士的職責(zé)更復(fù)雜化。此外,護(hù)士長(zhǎng)提到,醫(yī)院已對(duì)護(hù)士團(tuán)隊(duì)開(kāi)展專項(xiàng)培訓(xùn),幫助她們適應(yīng)機(jī)器人手術(shù)的節(jié)奏。
同時(shí),醫(yī)療人工智能的發(fā)展也對(duì)現(xiàn)行法律提出了挑戰(zhàn)。一方面是醫(yī)療責(zé)任主體的界定,目前,醫(yī)療侵權(quán)責(zé)任通常由醫(yī)生或醫(yī)院承擔(dān),但當(dāng)手術(shù)由人工智能輔助完成時(shí),責(zé)任主體可能涉及多個(gè)層面。但是目前,我國(guó)現(xiàn)行法律尚未對(duì)此做出明確規(guī)定,這也是醫(yī)療人工智能發(fā)展中亟待解決的問(wèn)題之一。
另一方面,是患者權(quán)益保護(hù)問(wèn)題。尤其是知情同意與數(shù)據(jù)安全。訪談中,醫(yī)生和護(hù)士均提到,醫(yī)院會(huì)在術(shù)前向患者詳細(xì)說(shuō)明機(jī)器人手術(shù)的優(yōu)勢(shì)和風(fēng)險(xiǎn),并簽署知情同意書。然而,現(xiàn)實(shí)中,患者往往對(duì) AI 手術(shù)的潛在風(fēng)險(xiǎn)認(rèn)知不足,是否真正實(shí)現(xiàn)了“充分知情”仍存疑問(wèn)。
徐沈胤結(jié)合訪談經(jīng)驗(yàn)和相關(guān)學(xué)術(shù)研究,對(duì)此提出了自己的思考:構(gòu)建人工智能醫(yī)療責(zé)任劃分體系,明確醫(yī)生、醫(yī)院、設(shè)備廠商、算法開(kāi)發(fā)者的責(zé)任邊界;優(yōu)化手術(shù)事故處理機(jī)制,建立AI 手術(shù)事故專家評(píng)審制度,科學(xué)界定事故責(zé)任;加強(qiáng)患者知情權(quán)保護(hù),確;颊哒嬲私釧I手術(shù)的利弊及可能風(fēng)險(xiǎn)。
03法院角度的思考侵權(quán)責(zé)任問(wèn)題的研究不僅要看到目前醫(yī)院里存在的問(wèn)題,更要看到法律的匡正。隊(duì)員們走進(jìn)各大法院去實(shí)地調(diào)研目前的法律監(jiān)督力度以及未來(lái)的發(fā)展情況。
1月23日,隊(duì)員劉藝然前往邵陽(yáng)市中級(jí)人民法院進(jìn)行調(diào)研在與民事審判庭第三庭副庭長(zhǎng)王彥懿的訪談過(guò)程中,她了解到該法院暫未受理過(guò)醫(yī)療人工智能相關(guān)案件,但持續(xù)關(guān)注著醫(yī)療人工智能的發(fā)展,認(rèn)為未來(lái)可能引起糾紛但頻率不高。但糾紛大概率是新型醫(yī)療損害糾紛,涉及多個(gè)責(zé)任主體,因果關(guān)系判斷仍然適用傳統(tǒng)方法。對(duì)于行業(yè)發(fā)展與前景展望,王彥懿指出法律框架需要完善,建議立法先行,法院借助專家?guī)斓刃问脚c專家合作,提高審判質(zhì)量;與行業(yè)部門合作,通過(guò)合議庭與培訓(xùn)進(jìn)行法律與數(shù)據(jù)素養(yǎng)的跨學(xué)科協(xié)作來(lái)保證司法公平。
綜上所述,面對(duì)醫(yī)療人工智能這一新領(lǐng)域,法院并未做好充分的準(zhǔn)備。一是受目前的經(jīng)濟(jì)條件和地域條件制約。二是受法律法規(guī)的滯后性制約,訪談中醫(yī)院和法院的受訪者均表示需要立法先行,才能保證醫(yī)院應(yīng)用醫(yī)療人工智能的規(guī)范性和法院審理人工智能相關(guān)案件的公正性。
對(duì)于醫(yī)療人工智能侵權(quán)責(zé)任認(rèn)定,本次訪談中,受訪者表示傳統(tǒng)的因果關(guān)系認(rèn)定方法仍然適用,即相當(dāng)因果關(guān)系說(shuō):首先判斷行為和損害結(jié)果之間是否存在事實(shí)上的因果關(guān)系,在事實(shí)因果關(guān)系確定之后,再進(jìn)一步判斷該條件是否具有“相當(dāng)性”,即是否有效增加了損害發(fā)生的可能性。但不可否認(rèn)的是,醫(yī)療人工智能侵權(quán)可能涉及多個(gè)責(zé)任主體,行為的歸屬因此難以認(rèn)定,可能需要根據(jù)比例原則來(lái)劃分責(zé)任比例。人工智能是輔助性工具,醫(yī)務(wù)人員需負(fù)擔(dān)適當(dāng)?shù)脑倥袛嗔x務(wù),但不能以此義務(wù)是否履行為標(biāo)準(zhǔn)來(lái)判斷醫(yī)務(wù)人員診療過(guò)失,醫(yī)務(wù)人員很可能因?yàn)闂l件限制得出錯(cuò)誤的判斷,但并不存在診療過(guò)失。不排除存在醫(yī)務(wù)人員沒(méi)有診療過(guò)失,但診療人工智能不符合理性算法標(biāo)準(zhǔn)、存在缺陷的情形。在此情形中,考慮到醫(yī)療人工智能屬于醫(yī)療產(chǎn)品,可以適用產(chǎn)品質(zhì)量法。
總之,醫(yī)療人工智能侵權(quán)責(zé)任涉及多個(gè)責(zé)任主體和多種部門法,在責(zé)任認(rèn)定方面可能需要制定新的標(biāo)準(zhǔn),或進(jìn)一步完善司法鑒定機(jī)制。
1月23日,隊(duì)員聶凡婧前往重慶市南川區(qū)人民檢察院進(jìn)行實(shí)地調(diào)研在與檢察官的訪談中,討論的焦點(diǎn)是醫(yī)療AI侵權(quán)案件中的法律問(wèn)題。檢察官表示,醫(yī)療AI的迅速普及確實(shí)給法律體系帶來(lái)了許多新的挑戰(zhàn)。在醫(yī)療AI產(chǎn)生的侵權(quán)糾紛中,最復(fù)雜的問(wèn)題是責(zé)任的劃分。根據(jù)現(xiàn)有的法律框架,醫(yī)療侵權(quán)案件通常需要明確責(zé)任主體,而在AI的應(yīng)用中,問(wèn)題變得復(fù)雜。檢察官認(rèn)為,若AI系統(tǒng)本身存在設(shè)計(jì)缺陷或算法問(wèn)題,AI的開(kāi)發(fā)者應(yīng)當(dāng)承擔(dān)一定的責(zé)任。而如果AI的使用過(guò)程中出現(xiàn)錯(cuò)誤,且醫(yī)生在合理范圍內(nèi)依賴了AI的診斷結(jié)果,責(zé)任則應(yīng)由醫(yī)生和醫(yī)院共同承擔(dān)。檢察官還提到,醫(yī)療AI的責(zé)任劃分還沒(méi)有完全明確的法律框架,這也導(dǎo)致了在實(shí)際案例中,侵權(quán)責(zé)任的界定可能因具體情況而異,法院的判決往往會(huì)依據(jù)實(shí)際情況和具體證據(jù)做出裁定。因此,檢察官呼吁,相關(guān)法律法規(guī)應(yīng)及時(shí)更新,以適應(yīng)醫(yī)療AI技術(shù)的發(fā)展。
對(duì)此,聶凡婧進(jìn)行了自己的思考。首先,需要明確開(kāi)發(fā)者、醫(yī)生、醫(yī)院在醫(yī)療AI中的法律責(zé)任。其次,針對(duì)醫(yī)療AI的法律法規(guī)應(yīng)盡快出臺(tái),尤其是對(duì)于AI在醫(yī)療領(lǐng)域的具體應(yīng)用進(jìn)行規(guī)范。最后,醫(yī)學(xué)和法律的跨學(xué)科合作顯得尤為重要。通過(guò)醫(yī)生、律師、法律專家和AI開(kāi)發(fā)人員的共同努力,可以為醫(yī)療AI的法律風(fēng)險(xiǎn)提供更具前瞻性的解決方案。
實(shí)踐總結(jié)科技日新月異地發(fā)展,法律作為匡扶的工具也應(yīng)該與時(shí)俱進(jìn)地發(fā)展。作為新時(shí)代青年的大學(xué)生們將繼續(xù)秉持著實(shí)事求是的精神。走進(jìn)各層級(jí)的法院中,走進(jìn)大大小小的醫(yī)院中,走進(jìn)千家萬(wàn)戶的患者家中,為提高醫(yī)療人工智能侵權(quán)責(zé)任問(wèn)題的認(rèn)定準(zhǔn)度、推進(jìn)建設(shè)社會(huì)主義現(xiàn)代化法治體系貢獻(xiàn)的青春力量。