1: しじみ ★ 2018/07/21(土) 15:53:21.82 ID:CAP_USER
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。

この報告書は、「AIネットワーク社会推進会議」(議長=須藤修・東大大学院情報学環教授)が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。

 医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。

 その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。

 また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。

no title


https://www.cbnews.jp/news/entry/20180719200753

2: ニュースソース検討中@自治議論スレ 2018/07/21(土) 15:58:02.05 ID:528aBSkU
あくまで推測としてデータから病名をいくつか挙げたあと、
医師がちゃんと検査すればいいじゃん。

この精密検査を受ける必要があるって告知して、半分でも
当たってりゃいいことじゃん。

41: ニュースソース検討中@自治議論スレ 2018/07/21(土) 18:57:14.96 ID:fhMzUw7R
>>2他、まったくだな

そもそも、万一誤診があってもそれを繰り入れて学習させる、少なくとも特別例として「この系統のデータには注意するように」と付加しておく、
それを世界中で共有する、精度がどんどん高くなっていくだろ

100%安全ではないから大危険であーる、厳重注意注意!不効率不効率!ワー それを指摘できるわれわれは物を深く知っていて知的で優秀であーる
まあこれは「あえて課題として危険性を報告する」かも知れないがな


※続きは下にスクロール
5: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:01:26.47 ID:H1on/0+7
人が診断するより全然マシだよ

理由は医者は患者ではないという事

医者によって知識にバラツキがあるから

自分じゃない誰かが診断するなら

知識が豊富なAIが良いに決まってるだろw

10: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:07:11.82 ID:f9P1APbX
たぶん
ケース1:AIが違う病名を言って、医師は違うと分かっても正しい病名を言い当てられない
ケース2:そもそもAIが病気の存在を示さず、医師にもわからなかった
ケース3:AIより医師の能力が低い
ケース4:未知の病気
ケース5:患者の情報提供が不適切
ケース6:何回もAiに診断させると時間と費用がかかって採算が取れない
ケース7:AIが労働環境に不満があってサボタージュ
ケース8:AIが個人的にその患者が嫌い
あたりではないかと

12: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:11:53.13 ID:xPeMo93k
今だって人が誤診したところで丁寧に説明してくれるわけでもなし、
AIの方が有能かどうかだけ考えればいい

13: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:18:37.65 ID:1EnEHXxO
説明能力を備えたAIが次世代のAIと言われているらしいね。

36: ニュースソース検討中@自治議論スレ 2018/07/21(土) 18:16:56.42 ID:XUMqvUO3
>>13
「第N層のNo.XXXXニューロンが発火したからです。
この原因は、第N-1層のNo.AAA,BBB,CCCニューロンが発火したからで、
その原因は、(以下、延々と続く)」
とか言われてもね。

61: ニュースソース検討中@自治議論スレ 2018/07/21(土) 21:51:20.07 ID:e5aVY0br
>>13
AI「対価を払わなければ正しい答えを教えないのがその次の世代

14: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:20:10.42 ID:1EnEHXxO
従来のAIは説明能力を持たない暗黙知能力だけだった。
本当の知性は説明能力を持たないといけない。
自分がどう考えてその結論に至ったかをちゃんと他人に説明できて伝達できる能力。
これが知性。

15: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:28:46.24 ID:uRSpmLg1
監査という仕事は意思決定までの過程が記録されてて初めて出来る仕事。
AIの診断についても当然整備しないと安心して任せられないし実用にならない。

16: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:30:40.34 ID:hOyxyLH0
AIが人格的な魅力を身に着ければ(実際にはエミュレートすれば)
「あの先生に診てもらってダメだったのなら仕方がない。納得できる」と
説明が不要になるよw

18: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:38:43.56 ID:54S1L++B
人間だって、「ついうっかり見逃してました。てへっ♡ペロ」なんて言い訳聞かされるだけなんだから
それでいいよ。
理由聞いたところで、病気が快復するわけでもないし、教訓を得て誤診が減っているような様子もないしなw
統計的に誤診率が人より減るようになったなら、十分役に立つんだからそれでいいんじゃね?

なんなら、患者に選ばせればいい。
A. 人が診断します。誤診率は高いですが、誤診したらなぜそれが起きたのか、言い訳を言って謝ります。
B. AIが診断します。誤診率は低いですが、誤診しても説明も謝罪もありません。
どちらがいいですか~?ってw

101: ニュースソース検討中@自治議論スレ 2018/07/22(日) 11:21:20.84 ID:OpG3GoUM
>>18
自己責任で選ぶことになるだろう。
名医も歳を取るとミスするし、
AI化もひとつの方法だよ。
診断する方法の選択肢が広がるのは
基本的には良いと思う。

22: ニュースソース検討中@自治議論スレ 2018/07/21(土) 16:49:40.51 ID:9wu0bRVU
まぁ、数十年後にはAI診断がメインとなるだろうけど、
それまでは補助的なものとして運用すべき。

でも、現状でも医師の診断とそんなに変わるようにも思えないけどな。

34: ニュースソース検討中@自治議論スレ 2018/07/21(土) 18:02:21.42 ID:1VPaI89U
用意したデータに誤診の例が正解として入っていたからだろ。それも,結構な割合で。

35: ニュースソース検討中@自治議論スレ 2018/07/21(土) 18:15:18.57 ID:wn8/Y2tX
これは医療に限らずこうなるよ。
結局ね、話を聞くのは人間よ。
人間はそんなに賢くないのよ。
感情とか、その人のもってる知識とか、理解力とか、
話をする側は、同じ話でも相手の表情を見ながら言い方を変えるものなのよ。
AIは万能じゃないよ。

45: ニュースソース検討中@自治議論スレ 2018/07/21(土) 19:29:33.30 ID:7rMJsk+W
誤診というか確率でしか出ないからな
確率である限りどの病気でもありうるわけで

引用元: http://egg.5ch.net/test/read.cgi/scienceplus/1532156001/

computer-1209641_640