America’s largest hospital chain has an algorithmic death panel
from Cory Doctorow https://pluralistic.net (August 05 2023)
アメリカ最大の病院チェーンはアルゴリズムによるデス・パネル（臨終相談。医師が患者やその家族と臨終の迎え方を話し合い、治療方針を決める）を行っている。HCAの管理者は「ホスピスの機会損失」で医師を叱責。
産業用食肉粉砕機。枕で支えられた病人がホッパーに向かってコンベアで運ばれていく。反対側からひき肉が出てくる。HCAヘルスケアのロゴ入り。その下には血だまりが広がっている。画像 Seydelmann, CC BY-SA 3.0, modified
保守派が間違っていることはないわけでなないが、彼らが正しいとしても、その正当性を切り取って示す傾向がある。例えば、「インセンティブは重要だ」という古くからの言い伝えがあるが、それを使って「タダで金をもらえる」ことが人々を「仕事嫌い」にするという理由で貧しい人々への人道的な給付を否定する場合がある。
保守派の経済学の教義である「パブリック・チョイス理論」には、未熟で腐敗しやすい規制当局者、立法者、公務員の動機にかかわる一連の理論がある。彼らが市場を歪める誘惑にどのように誘導される可能性があるかについて取り扱っている。
しかし、公共機関が誤りを犯しやすいということにこだわる一方で、同じ人々は競争の恐れが誘惑を防ぐという理由で、民間機関は決して誘惑に屈しないと確信している。右派が独占を「効率的」として受け入れるのはこの信念に基づくものだ。
企業が支配的な地位にあるのはその企業の質の高さの証拠である。顧客はその企業に集まり、競合他社は顧客をその企業から引き離すことができないのだから、独占企業は一般市民の味方なのだ。
しかし、これは競合他社を排除する方法がどのように機能するかを理解していない場合にのみ意味がある。Uberを考えてみよう。投資家の資金を310億ドルも燃やし、1ドルあたり41セントの損失を出した。これは競争他社を追い出し公共交通機関を悪い投資だと思わせるための試みだった。
あるいは、ビッグテックを考えてみてほしい。彼らがあなたの生活の大部分を独自のシステム内に閉じ込めてしまい、モバイルオペレーティングシステムを変更することはiMessageの連絡先を失うことを意味し、ソーシャルメディアプラットフォームを変更することが友達を失うことを意味し、Googleの監視をブロックすることがメールアドレスを失うことを意味し、Amazonとの縁を切ることが全ての電子書籍やオーディオブックを失うことになるのだ。
https://www.eff.org/deeplinks/2021/08/facebooks-secret-war-switching-costs
ビジネスパーソンは競争のリスクを理解しており、そのために競争を排除しようとする。競争相手が不足しているか、囲い込みのために顧客が離れにくいほど、顧客離れのリスクを冒すことなくより悪い扱いをすることができる。これが「Enshittification」（オンラインプラットフォームが運営期間が長くなるにつれてユーザーよりも収益化重視の方向に変化する現象）の核心だ。競争や規制によって規律付けられていない企業は顧客や供給業者を長い時間軸で不当に扱い、それでも両者を失うことなく続けることができるのである。
https://pluralistic.net/2023/01/21/potemkin-ai/#hey-guys
公的機関が公共の利益を裏切ることはできないわけではない。公的機関は財政的な説明責任ではなく、民主的な説明責任を果たすようにすればよいのだ。企業があなたを裏切ったとき、あなたは「財布で投票する」ことによってのみ企業を罰することができる。そのシステムでは、最も太った財布を持つ人々が、最も多くの票を持つことになる。
公的機関があなたを裏切ったときあなたは投票で対応することができる。それがいつもうまくいくとは限らないことは認めるが、うまくいくかどうかの大きな要因のひとつは民間部門がどれだけ大きく集中しているかということだ。規制当局をのっとることは自動的ではない。企業が政府よりも大きい場合に生じるものだ。
もしあなたが小さな政府を望むなら、小さな企業が必要なのだ。国家の役割は契約を執行することだけだと考えているとしても、国家は契約を発行する企業よりも強力でなければならない。企業が大きくなればなるほど、政府も大きくならざるを得ない：
https://doctorow.medium.com/regulatory-capture-59b2013e2526
企業は政府に賄賂を贈り、公共を虐待する手助けをさせることができるが、公共機関がそれに抵抗できるかどうかは、公務員がどれだけ誤りを犯しやすいかではなく企業がどれほど強力かによるものだ。私たちの寡頭政治的で独占された不平等な社会は、両方において最悪である。企業が巨大であるがゆえに、彼らは私たちを虐待しても免責され、虐待するために国家に賄賂を贈ることができるのだ。
これは、アメリカ人が、海外の仲間より劣悪な状況で労働する医療従事者からより悪いケアをされているのにより多くの医療費を払っているのかという議論からしばしば欠落している側面である。そう、政府はこれを助長することができる。たとえば、メディケア（アメリカの公的医療）制度を略奪して患者を傷つけるために民営化推進者を参入させるのだ。
https://prospect.org/health/2023-08-01-patient-zero-tom-scully/
しかし、これに対する答えはさらに民営化を進めることではない。政府の医療制度において「デス・パネル」を作り、そこで責任能力のない役人があなたの命を救う価値があるかどうかを決めると言ったサラ・ペイリンの脅しを覚えているだろうか？
https://pubmed.ncbi.nlm.nih.gov/26195604/
「デス・パネル」という言葉が広く知れ渡り、年月を経ても影響を残した理由は、我々が皆ある程度の深いレベルで理解しているからだ。医療は常に配分される必要があることを。あなたが救命救急センター（ER）に行けばトリアージが行われる。たとえ耐え難い苦痛に苦しんでいたとしても、他の人（あなたよりも後に到着した人さえも）の方があなたよりひどい状態の場合は待たなければならないかもしれない。
アメリカでは医療はほとんど支払い能力に基づいて配分されている。ERでのトリアージはアメリカの医療システムで唯一、真に実力主義的な制度であり、治療は緊急性に基づいて行われ、金銭による制約はない。もちろん、コンシェルジュ・ドクターがいればそれを回避することも可能だ。またERのシステム自体にもプライベート・エクイティの寄生虫に侵されている。
https://pluralistic.net/2022/11/17/the-doctor-will-fleece-you-now/#pe-in-full-effect
富に基づく医療の配分は十分悪いが、それが公共の財源と結びつくと悪いシステムは悪夢となる。たとえばホスピス・ケアをみてみよう。プライベート・エクイティ・ファンドは、アメリカ中の膨大な数のホスピスを統合し、それらを不正な、そして致命的なゲームに変えてしまった。
https://pluralistic.net/2023/04/26/death-panels/#what-the-heck-is-going-on-with-CMS
メディケアは死期が迫った人のケアに対して、ホスピスに203ドルから1,462ドルを支払い、これにより年間224億ドルの公的資金が民間部門に移転される。インセンティブは重要である。ホスピスが患者のために何もしないほど彼らはより多くの利益を得ることができる。そして民間ホスピス・システムは最も軽く管理されている。1日203ドルのレベルでは民間ホスピスは患者に対して何の義務も負っていない。
カリフォルニア州でホスピスを設立するには$3,000の申請料（これはチェックされることがないので、ほとんどオプションである）を払えばよい。施設検査はあるが不合格点を改善するためのフォローアップはないので心配はいらない。また、メディケア＆メディケイド・サービスセンターの誰も苦情を追跡してはいない。
プライベート・エクイティ（PE）が所有するホスピスは主に健康な人々に、自宅から「ホスピス・ケア」に入るよう圧力をかける。その後彼らは何もせず、それまでやっていた医療も継続しない。患者がPEのために3万2,000ドルの請求を作ると、彼らは上限を超えるので”生存退院”され、メディケアの資格を再設定するために官僚的な悪夢を経験しなければならない。なぜなら一度ホスピスに入るとメディケアはあなたが死にかけていると仮定し、治療を停止するからだ。
PEが経営するホスピスは医師を買収して患者を紹介するよう賄賂を贈ることがある。このような偽のホスピスは、実際に死期が迫った患者をケアしているように見せかけるために、わざと患者に過量服薬をさせることもある。インセンティブは重要である。
https://www.newyorker.com/magazine/2022/12/05/how-hospice-became-a-for-profit-hustle
ホスピス・ケア、そしてそれに関連する緩和ケアは、どの人道的な医療システムにおいても重要な部分である。アトゥール・ガワンデは著書『Being Mortal』（2014年）の中で、死にゆく人の優先事項を中心に据えた終末期ケアが患者とその愛する人にとって、死を尊厳のある、さらには満足のいくプロセスにする方法について述べている。
https://atulgawande.com/book/being-mortal/
しかし、その尊厳は患者中心のアプローチから生まれるものであり、利益中心のアプローチからではない。医師は患者の利益を最優先に考える義務があるが、時にはこの義務を果たすことに失敗することもある（誰にでも失敗はある）。しかし、医学の専門化によって医師は金銭的な考慮よりも倫理基準を優先することが求められ、その耐久性は驚くべきものだった。
その理由のひとつは、医師（MD）が一般的に自分で開業したり、あるいは他の医師のところで働いていたからである。ほとんどの州では医師以外の者が診療所を所有することは違法で、歴史的に見ても、医療専門家ではなくビジネス関係者の管理下におかれる病院に勤務する医師はごく一部だった。
しかし、プライベート・エクイティが医療システムに参入し、地域の病院が巨大な全国チェーンに合併され、個人開業医がすくい上げられ、健康最大化ではなく利益最大化業者に変貌するという統合の波が押し寄せたことで、この状況は根本的に変化した。
https://prospect.org/health/2023-08-02-qa-corporate-medicine-destroys-doctors/
今日、医師はプロレタリア化され、看護師、医師助手、その他の医療従事者の仲間入りをしている。2012年には診療所の60％が医師所有であり、病院に勤務する医師はわずか5.6％であった。現在、その割合は1,000％増加し、52.1％の医師が病院（ほとんどが巨大企業チェーン）で働いている。
https://prospect.org/health/2023-08-04-when-mds-go-union/
プライベート・エクイティ・ファンドと名乗る、ペーパークリップを最大化し、祖父母を食い物にするトランスヒューマン・コロニー生物は、私たちに害を与えることで利益を増やす方法を見つけるために際限なく創意工夫を凝らしている。ホスピスだけでなく緩和ケアもそうだ。
NBCニュースの記事で、グレッチェン・モーゲンソンは、全米最大の病院チェーンであるHCAヘルスケアが、「デス・パネル」をIBMにアウトソーシングし、そのアルゴリズムによる判断が医師の判断を覆し、患者を緩和ケアに送り込み、ケアを取りやめて死に至らしめる方法について説明している。
インセンティブは重要だ。HCAの病院が患者をどこか別の場所に送って亡くなるようにすると統計情報をゆがめ、患者の平均在院日数が短縮される。これはHCAが使用する重要な指標であり、病院が人々を素早く回復する場所のように見せると同時により収益性の高い患者のためにベッドを空けるという、2つの利点がある。
グッドハートの法則によれば、「ある指標が目標となったとき、それは良い指標ではなくなる」とされている。HCA内のMBAに指標（「患者を早くベッドから出す」）を与えれば、彼らはその指標を達成する方法を見つけるだろう（「たとえ医師が回復できると考えていても、患者をどこか別の場所に送り出し、死に追いやる」）。
https://en.wikipedia.org/wiki/Goodhart%27s_law
インセンティブは重要である！どんな企業の施策もすぐにターゲットにされる。ワーナーブラザースにコスト削減を求めれば彼らはすぐに脚本家のストライキを1億ドルの「コスト削減」だと宣言するだろう。ただしこの “節約 “は、来年の収益全体をもたらす番組の制作を中止することから得られているという事実にもかかわらず。
企業に自社の種を食べるよう奨励すれば、企業はむさぼりつくだろう。
HCAの医師の中でデス・パネルについて公言したのは一人だけだった。リバーサイド・コミュニティ病院（モットーは「何よりも人命のケアと向上に全力を尽くす」）の医師、ガサン・タベルのガサン・タベルである。タベルは患者を緩和ケアに回せというアルゴリズムの命令に従うことを拒否したため、病院から報復を受けたのでリバーサイドを訴えた。
タベルは、この件について話してくれる唯一の医師だが、他の26人の医師も、2022年に56億ドルの利益を上げる “ウォール街の寵児 “であるこの全米最大の病院チェーンからの報復を恐れて匿名を条件にこの診療行為についてモーゲンソンに話をした。
HCAはすでに「深刻な人員不足」で、患者よりも利益を優先する屠殺場という評判を得ている。
そして施設は腐敗し、手入れが行き届いていない。
https://www.nbcnews.com/health/health-care/roaches-operating-room-hca-hospital-florida-rcna69563
しかし、人員削減や病院の崩壊を放置することは紛れもない不正行為だが、緩和ケア詐欺を突き止めるのは難しい。HCAは「AI」を使って患者が助からないと判断し、経験主義を洗練させることでその問題を数学的なプロセスの事実上の、そして疑う余地のない結論であると宣言し、単なる利益追求ではないと主張できるのである。
https://pluralistic.net/2023/07/26/dictators-dilemma/ggarbage-in-garbage-out-garbage-back-in
しかし、このような経験主義的な対応は、医療資格を持たない病院管理者が、医師がアルゴリズムが決定したにもかかわらず患者の治療を継続することを選択した場合、「ホスピスの機会を逃した」として医師を非難する証言に直面すると消滅する。
これが真の「AIの安全性」のリスクである。チャットボットが覚醒して世界を支配するのではなく、元の人工生命体である有限責任会社が、「AI」を使って残酷なシェルゲームを加速させ、我々がそのトリックに気づけないほどの速さで進行する可能性があるということだ。
https://pluralistic.net/2023/06/10/in-the-dumps-2/
そのリスクは現実のものだ。2020年のジャーナル・オブ・ヘルスケアマネジメントの研究によれば、緩和ケアに患者を送るためのキャッシュインセンティブは、「いくつかの高患者数の病院診断において、死亡率の報告に欺瞞的な変化をもたらす可能性がある」と結論づけている。
インセンティブは重要である。民間市場においては、ケアを提供するよりも、ケアを拒否する方が常に利益があり、そのシステムに不正を防止するために追加される任意の指標はすぐに攻撃の対象になる。営利目的の医療とは矛盾した言葉であり、あなたを5セントで殺すデス・パネルへの序曲である。
モーゲンソンは営利追求に関する鋭い論評家である。彼女の近著『These Are the Plunderers：How Private Equity Runs – and Wrecks – America』（これこそが略奪者たち：プライベート・エクイティはいかにアメリカを運営し、破壊するか）（2023年）はジョシュア・ロズナーとの共著で必読の一冊。
Pluralistic: The long lineage of private equity’s looting (02 June 2023)
Pluralistic: America’s largest hospital chain has an algorithmic death panel (05 August 2023)