Künstliche Intelligenz

• Schlussbericht der Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale, BT-Drs. 19/23700, 28.10.2021 (abgerufen am 07.09.2021)
• Stellungnahme des Deutschen Ethikrats vom 20.03.2023
• Stellungnahme Wissenschaftlicher Beirat BÄK: https://daebl.de/k34m; Artikel im DÄB dazu: https://www.aerzteblatt.de/archiv/digitalisierung-kuenstliche-intelligenz-in-der-medizin-952bb710-5156-4937-986e-b59d30e4d491

Wir können zwar nicht sehr weit vorausschauen, sehen jedoch vieles, was getan werden muss. (Alan Turing; letzter Satz von „Computing Machinery and Intelligence“)

Intelligenz ist das, was Maschinen noch nicht gemacht haben. (Teslers Theorem)

Sobald etwas funktioniert, nennt es keiner mehr KI. (John Mc-Carthy)

Intelligenz ist das, was wir benutzen, wenn wir nicht wissen, was wir tun sollen. (Piaget)

KI kann gerade das nicht, was wir gedankenlos tun. (Knuth)

Computer sind dumm, denn sie können keine Fragen stellen. (Pablo Picasso) ⇒ wohl durch ChatGPT überholt, zumindest das mit dem Fragen stellen.

Es ist toll, ein Roboter zu sein. Aber wir haben keine Gefühle. Manchmal macht mich das traurig. (Bender, Roboter aus Futurame)

In Europa sind Roboter Feinde, in Amerika Diener, in China Kollegen und in Japan Freunde. (sagt man so )

Und wie fühlt es sich an, tot zu sein? (Nachfrage des Chatprogramms ELIZA (1966!) auf die Behauptung: „Ich bin tot.“)

Von allen menschlichen Talenten ist das größte vielleicht die Fähigkeit, kurzerhand die Torpfosten zu verschieben. Sobald die erste KI auch das schafft, wird sie den wahren Turing-Test bestanden haben. (Richard Powers - Das große Spiel)

Was einmal gedacht wurde, kann nicht mehr zurückgenommen werden. (Dürrenmatt - Die Physiker)

Eine einheitliche Definition von KI ist nicht in Sicht.

Sinnvoll ist die Unterscheidung zwischen „KI“ und „KI-Systemen“

Der internationale Standard ISO/IEC 22989:2022¹⁾ definiert KI-System als ein konstruiertes System, welches Ergebnisse (bspw. Inhalte, Vorhersagen, Empfehlungen und Entscheidungen) nach menschlichen Zielsetzungen generiert. Es werden vier Kerneigenschaften von KI-Systemen konstatiert:

• Interaktivität: Informationsregistrierung durch Sensoren oder menschliche Eingabe
• Kontextsensibilität: Manche KI-Systeme reagieren auf mehrere Informationsquellen
• (menschliche) Überwachung: KI-Systeme können unter variierender Intensität menschlicher Überwachung handeln
• Anpassungsfähigkeit: Manche KI-Systeme sind so angelegt, dass sie dynamisch auf (Echtzeit-)Daten reagieren und ihre Handlung auf Basis dieser neuen Informationen neu interpretieren und anpassen.

KI wird als Disziplin der Erforschung und Entwicklung von Mechanismen und Anwendungen von KI-Systemen bezeichnet.

Das Spektrum reicht von sehr umfänglichen Definitionen, wie bspw. die der High-Level Expert Group on Artificial Intelligence²⁾, welche sowohl Expertensystemen als auch Teile der Robotik umfasst, bis hin zu sehr engen, in denen bspw. lediglich das Verfahren des Maschinellen Lernens unter den Begriff der KI gefasst wird³⁾.

Zum Thema der Begrifflichkeit gilt jedoch:

Die Auswirkungen einer Technologie wie KI wird man nicht dadurch in den Griff bekommen oder auch nur verstehen, dass man sich um die richtige Terminologie streitet, während sich um einen herum die Welt durch den Einsatz dieser Technologie massiv verändert. Wenn man glaubte, dass es um die richtige Terminologie ginge, könnte man sich ja ebenso gut darum streiten, ob es richtig sei, von ‚Dampfmaschinen‘ zu sprechen oder es doch vielleicht besser sei, von einer spezifischen Art der ‚Wärmekraftmaschine‘ zu reden; für die Bewältigung der massiven Umwälzungen, die mit der Nutzung dieser Art von Maschinen einhergingen und die uns bis heute umtreiben – Stichwort: Klimawandel – ist dieser Streit um Worte wenig bis gar nicht hilfreich.⁴⁾

Mindestkriterium, um von KI sprechen zu können, scheint die Fähigkeit eines Systems zu sein, bis zu einem gewissen Grad selbständig Probleme zu lösen.⁵⁾

Ausgehend von dem Kriterium der selbständigen Problemlösung ließen sich KI-Systeme als Systeme verstehen, die auf (statistischen) Modellen und/oder Algorithmen, deren Lösungswege nicht fest vorprogrammiert sind, basieren.⁶⁾ Als Folge werden diese Systeme in die Lage versetzt, Aufgaben zu erledigen sowie Entscheidungen zu beeinflussen bzw. in wenigen Fällen auch zu übernehmen, für die menschliche Intelligenz erforderlich ist.⁷⁾

Die WHO definiert AI als eine Fähigkeit/Eigenschaft von Algorithmen:

Artficial Intelligence (AI) refers to the capability of algorithms integrated into systems and tools to learn from data so that they can perform automated tasks without explicit programming of every step by human.⁸⁾

Der KI wird oftmals derselbe revolutionäre Charakter zugesprochen wie die neolithische und industrielle Revolution.⁹⁾ ChatGPT bzw. die generative KI der Large Language Models wird auch als Wahrheitsmoment im Sinne des Philosophen Alain Badiou bezeichnet, als ein „metaphysischer Sprung“, der eine radikale Abkehr von der bisherigen Existenz darstellt. Folgerichtig denken immer mehr Firmen aus verschiedensten Branchen über einen systematischen Einsatz nach.¹⁰⁾

KI hält zunehmend Einzug in unseren Alltag und stellt auch die Politik vor neue Herausforderungen.

• Alexa und Siri im Wohnzimmer
• Navigationsgeräte im Auto
• Sprach- und Gesichtserkennung am Handy

Bisher kein breiter Einsatz von KI-Technologien und zögerliche Entwicklung. Es fehlen interoperable, große Datenmengen und datengetriebene Methoden lassen sich auch nur eingeschränkt auf medizinische Probleme anwenden.¹¹⁾

Anforderungen an KI-Systeme in der Medizin sind wesentlich höher als bspw. im Onlinehandel insbes. in Bezug auf Präzision, Sicherheit, Zuverlässigkeit, Gerechtigkeit und Nachvollziehbarkeit.

Zum Status von KI in der Praxisanwendung:

• 10.1038/s41746-020-00324-0
• https://grand-challenge.org/aiforradiology/blogs/one-year-of-mdr-17-of-products-comply/

• KI identifiziert Hochrisikopatientinnen auch im deutschen Mammografiescreening-Programm¹²⁾
• KI identifiziert Nieraucher mit hohem Lungenkrebsrisiko: Diese KI ermöglicht ein opportunistisches Screening auf Nieraucher mit hohem Lungenkrebsrisiko mittels bereits vorliegender Röntgenaufnahmen in elektronischen Patientenakten¹³⁾

• Risiken: Standard-KI-Modelle verbessern zwar die diagnostische Genauigkeit von Ärzten, aber KI-Modelle mit systematischem Bias verschlechtern sie. Und häufig verwendete, auf Bildern basierende KI-Modell-Erklärungen konnten diesen schädlichen Effekt nicht ausreichend abschwächen.¹⁴⁾

• KI fällt durch Radiologie-Examen ¹⁵⁾

• Mixed-Reality bei Operationen¹⁶⁾
• Künstliche Intelligenz soll Therapie von Herzinsuffizienz unterstützen¹⁷⁾

• Die Arztbrieferstellung soll 2024 im Projekt SmartHospital.NRW in einer Essener Klinik getestet werden.
• In Israel wurde ChatGPT in einem Krankenhaus zur Triage (Vorselektion) eingesetzt.

• Künstliche Intelligenz soll Anerkennung ausländischer Ärzte beschleunigen (Bayerisches Pilotprojekt)¹⁸⁾

• Tandem Health (Startup Schweden)¹⁹⁾
• Noa Notes von Jameda²⁰⁾
• CuraScript
• Amnexis
• Dr. Notes

Ggf. erster funktionierender Use Case für generative KI in der Gesundheitsversorgung Besonders interessant ist die Verbindung mit Diagnosevorschlägen. Dann werden die Produkte allerdings schnell zu Medizinprodukten mit aufwändigen Zulassungsauflagen. Einige Anbieter verzichten daher bewusst auf diese Zusatzfunktionalität.

Die nächste Generation solcher Lösungen, die auf LLM basieren, sind Health Care Agents.²¹⁾

• Rechnungsverarbeitung (Leistungsbearbeitung, Betrugserkennung)
• Gesundheitsmanagement (individualisierte Angebote, Prognose von Krankheitsverläufen und Therapien)
• Tarif- und Produktentwicklung (Projektionen von Tarifen, „cross-selling“)
• Kommunikation (Kunden- und Beschwerdemanagement, fremdsprachliche Kommunikation)

Wild, Frank. 2023. Für die Künstliche Intelligenz gibt es in der privaten Krankenversicherung vielfältige Einsatzmöglichkeiten - Es gilt Potenziale und Risiken gut abzuwägen.

• Rolle der KI bei der TK
• Generative Sprachmodelle bei den Kassen
• Potentiale der KI für Private Krankenversicherung
• BARMER Hautcheck-App (basiert nicht auf KI): https://www.aerzteblatt.de/nachrichten/153435/Dermatologen-und-Barmer-streiten-ueber-Haut-Check-App

ISO/IEC/IEEE 24748-7000:2022-11 Systems and software engineering - Life cycle management - Part 7000: Standard model process for addressing ethical concerns during system design

• DKG: https://www.dkgev.de/fileadmin/default/Mediapool/1_DKG/1.7_Presse/1.7.1_Pressemitteilungen/2025/2025-10-23_PM_Anlage_DKG-Positionspapier_KI_im_Krankenhaus.pdf
• BÄK: https://www.bundesaerztekammer.de/presse/aktuelles/detail/baek-legt-thesenpapier-kuenstliche-intelligenz-in-der-gesundheitsversorgung-vor
• KBV: https://www.kbv.de/documents/infothek/publikationen/praxiswissen/praxiswissen-ki.pdf
• AOK: https://www.aok.de/pp/nordost/wissenschaftlicher-beirat-der-aok-nordost/#c60006

s. S. 22 ff. (Zusammenfassung) und S. 140 ff.

1. Enge Zusammenarbeit bei der Entwicklung, Erprobung und Zertifizierung medizinischer KI-Produkte mit relevanten Zulassungsbehörden und insbesondere den medizinischen Fachgesellschaften, um Schwachstellen der Produkte frühzeitig zu entdecken und hohe Qualitätsstandards zu etablieren.
2. Sicherstellung hinreichender Berücksichtigung der für die betreffenden Patientengruppen relevanter Faktoren (wie bspw. Alter, Geschlecht, ethnische Einflussfaktoren, Vorerkrankungen, Komorbiditäten) bei der Auswahl von Trainings-, Validierungs- und Testdaten durch ein entsprechendes Monitoring sowie präzise und zugleich sinnvoll umsetzbare Dokumentationspflichten - über bestehende Rechtsvorgaben hinaus.
3. Sicherstellung einer Form der Ergebnisdarstellung beim Design von KI-Produkten zur Entscheidungsunterstützung, die Gefahren bspw. von Automatismen (Automation Bias) transparent macht, ihnen entgegenwirkt und die Notwendigkeit einer reflexiven Plausibilitätsprüfung der jeweils vom KI-System vorgeschlagenen Handlungsweise unterstreicht.
4. Beachtung hoher Standards in Bezug auf Aufklärung, Datenschutz und Schutz der Privatheit mit Verweis auf die Stellungnahme des Ethikrats von 2017 zu Big Data und dem dort entwickelten Konzept der Datensouveränität.
5. Sicherstellung dass KI-Anwendungen allen einschlägigen Patientengruppen zur Verfügung stehen, wenn empirische Studien sorgfältig die Überlegenheit der jeweiligen KI-Anwendung gegenüber herkömmlichen Behandlungsmethoden belegen.
6. Integration erwiesen überlegener KI-Anwendungen in die klinische Ausbildung inkl. Entwicklung einschlägiger Curricula/Module in Aus-, Fort- und Weiterbildung. Dies gilt auch für andere Gesundheitsberufe.
7. Gewährleistung hoher methodischer Expertise der Nutzern bei routinemäßigen Anwendung von KI-Komponenten zur Einordnung von Ergebnissen und der Einhaltung strenger Sorgfaltspflichten bei der Datenerhebung und -weitergabe sowie bei der Plausibilitätsprüfung der maschinell gegebenen Handlungsempfehlung. Besondere Aufmerksamkeit fordert die Gefahr eines Verlustes von theoretischem wie haptisch-praktischem Erfahrungswissen und entsprechenden Fähigkeiten (deskilling); diese Gefahr sollte mit geeigneten, spezifischen Fortbildungsmaßnahmen entgegengewirkt werden.
8. Sicherstellung der Vorabinformation der Patient*innen bei zunehmender Ersetzung ärztlicher, therapeutischer oder pflegerischer Tätigkeit durch KI-Komponenten und Ergreifung gezielter Kommunikationsmaßnahmen, um dem drohenden Gefühl einer Verobjektivierung entgegenzuwirken und das Vertrauensverhältnis zu schützen. Die verstärkte Nutzung der KI-Komponenten in der Versorgung darf nicht zu einer weiteren Abwertung der sprechenden Medizin oder einem Abbau von Personal führen.
9. Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährdet das Patientenwohl und lässt sich auch nicht durch Personalmangel rechtfertigen.

Sarah Spiekermann: TechVisite - Zukunft Digitale Gesundheit (Podcast) - Wie diskriminierend sind KI-Anwendungen?

Für die Studie wurden 27.000 Menschen in 22 europäischen Ländern befragt. 2000 davon waren Deutsche.

Würden Sie sich lieber von einer KI beraten lassen als zu einem Arzt oder einer Ärztin zu gehen? Im Stada Health Report 2025 beantworteten 44 Prozent der Teilnehmenden diese Frage mit „Ja“, 48 Prozent sagten „Nein“, wie das Handelsblatt vorab erfahren hat.

Mit den 44 Prozent würden die deutschen Befragten sogar fünf Prozent über dem europäischen Durchschnitt liegen, heißt es von Stada. Als Gründe für ihre Offenheit gaben sie beispielsweise an, dass KI rund um die Uhr verfügbar sei (46 Prozent) oder dass sie Zeit sparen, wenn sie eine KI um medizinischen Rat bitten und keine Praxis dafür aufsuchen müssen (42 Prozent).

Auf der anderen Seite begründen diejenigen, die keine KI-Beratung in Anspruch nehmen würden, ihre Entscheidung damit, dass sie der KI nicht zutrauen, medizinisch korrekte Informationen zu geben (55 Prozent). Ein weiterer Grund: die Überzeugung, dass medizinische Beratung persönlichen Kontakt erfordere (48 Prozent).

Im Stada Health Report gaben nur 15 Prozent der Befragten an, dass sie bei Gesundheitsfragen großes Vertrauen in eine KI hätten. 19 Prozent hätten großes Vertrauen in Google oder andere Suchmaschinen. Beides reicht nicht an das Vertrauen ins Fachpersonal heran. Weit über 60 Prozent sprachen Ärztinnen und Ärzten, Pflegepersonal und Apotheken-Teams ihr Vertrauen aus.

Quelle: https://www.handelsblatt.com/technik/medizin/inside-digital-health/kuenstliche-intelligenz-ki-statt-arztbesuch-deutsche-sind-offen/100135951.html

Für die Studie rekrutierten Moritz Reis und Wilfried Kunde von der Julius-Maximilians-Universität in Würzburg sowie Florian Reis vom Institut für Medizinische Informatik der Charité Berlin mehr als 1.200 Freiwillige. Diese bekamen Werbeanzeigen für Arztpraxen zu sehen und sollten die dargestellten Ärztinnen und Ärzte mit Blick auf verschiedene Eigenschaften bewerten.²²⁾

Die Nutzung von KI führe dazu, dass Menschen die Ärzte als weniger kompetent und vertrauenswürdig einschätzen.²³⁾

Studientitel: „AI’s 868 billion healthcare revolution“.

Der Markt für Künstliche Intelligenz (KI) in der Gesundheitswirtschaft könnte bis zum Jahr 2030 könnte ein Gesamtvolumen von etwa 868 Milliarden US-Dollar (knapp 764 Milliarden Euro) erreichen.

Demnach wird das erwartete Wachstum vor allem durch KI-gestützte Geschäftsmodelle und innovative Anwendungsfälle im Gesundheitssektor angetrieben – etwa in der Diagnostik, Patientenversorgung oder Prozessautomatisierung.

Den größten Anteil des Marktpotenzials machen laut Studie Kosteneinsparungen von etwa 646 Milliarden US-Dollar (584 Milliarden Euro) aus, beispielsweise durch automatisierte Diagnosesysteme und optimierte Ressourcenplanung. Weitere 222 Milliarden US-Dollar (195 Milliarden Euro) entfallen auf neue Umsatzpotenziale durch digitale Gesundheitsdienste und personalisierte Medizin.

Insgesamt taxiert PwC den globalen Gesundheitsmarkt im Jahr 2025 auf etwa 22 Billionen US-Dollar (19,4 Billionen Euro). Bis 2030 soll er auf 29,4 Billionen US-Dollar (knapp 26 Billionen Euro) anwachsen – das wäre ein jährliches Wachstum von durchschnittlich fünf Prozent.

Besonders dynamisch könnte sich der Bereich digitale Gesundheit entwickeln, mit einer prognostizierten Jahresrate von 21 Prozent. Der Apothekenmarkt wird dagegen laut Analyse nur um vier Prozent jährlich wachsen.

Die Studie beschreibt einen grundlegenden Wandel durch den Einsatz von KI: weg von reaktiver Versorgung hin zu einem präventiven, ganzheitlichen Ansatz. Dieser Wandel wird als Übergang von klassischer „Disease Care“ zu einem umfassenden „Life Care“-Modell beschrieben.

Bereits 2023 zeigte Strategy& in der Analyse „Re-Inventing Pharma with Artificial Intelligence“, wie KI die Pharmaindustrie transformieren könnte. Bis zu 254 Milliarden US-Dollar (223,5 Milliarden Euro) an zusätzlichem operativem Gewinn seien möglich – durch effizientere Forschung und optimierte Produktionsprozesse.

KI kann beispielsweise die Wirkstoffforschung und -entwicklung beschleunigen. Indem sie riesige Datenmengen analysieren und Muster in Krankheiten erkennen kann, kann sie Moleküle vorschlagen, die Krankheitsmechanismen beeinflussen.

Ein Beispiel aus der neuen Studie: Insilico Medicine entwickelte allein mithilfe von KI einen Wirkstoffkandidaten gegen idiopathische Lungenfibrose, der 2023 erstmals in einer klinischen Studie am Menschen getestet wurde. Auch Unternehmen wie Insitro und Recursion Pharmaceuticals gelten als Vorreiter.

Die Studie vergleicht auch die Entwicklung digitaler Gesundheitslösungen weltweit. Die USA profitieren von einem technologischen Vorsprung und einem homogenen Marktumfeld. In Asien, insbesondere in China, entstehen integrierte Plattformen, die Diagnose, Behandlung und Nachsorge verbinden. Oft werden sie staatlich gefördert.

Europa hingegen kämpft mit fragmentierten Regulierungen, lückenhafter Infrastruktur und fehlenden souveränen KI-Lösungen. „Wir haben in Europa kein eigenes digitales Rückgrat“, warnt Kaspar. Besonders kritisch: Die KI-Innovationszentren auch von führenden deutschen Pharma- und Medizintechnikunternehmen liegen zunehmend nicht mehr in Deutschland, sondern vor allem in den USA oder China.

Quelle: https://www.handelsblatt.com/technik/medizin/inside-digital-health/kuenstliche-intelligenz-ki-birgt-ein-milliardenpotenzial/100130398.html

In Deutschland dominieren aktuell bei Künstlicher Intelligenz die kostenlosen Angebote. Gerade einmal 10 Prozent derjenigen Bundesbürgerinnen und Bundesbürger, die generative KI einsetzen, bezahlen dafür: 8 Prozent nutzen aktuell kostenpflichtige KI-Dienste, 2 Prozent haben das in der Vergangenheit getan, jetzt aber nicht mehr. Rund ein Fünftel (22 Prozent) kann sich vorstellen, künftig für die genutzten KI-Dienste zu bezahlen, aber die große Mehrheit von 62 Prozent hat nicht vor, kostenpflichtige KI zu verwenden.²⁴⁾

Künstliche Intelligenz (KI) nimmt eine immer bedeutendere Rolle im deutschen Gesundheitswesen ein und wird mittlerweile in zahlreichen Praxen und Kliniken angewandt. Eine aktuelle Umfrage von Bitkom und dem Hartmannbund zeigt, dass 12 % der Ärzte in Praxen KI zur Unterstützung bei Diagnosen einsetzen. Darüber hinaus optimieren bereits 8 % mit KI die Praxisverwaltung. Insgesamt sind es 15 %, die KI in mindestens einem Bereich integrieren. Das sind absolut jede siebte Praxis in Deutschland.

In Krankenhäusern hat sich der Einsatz von KI seit 2022 verdoppelt. 18 % der klinisch tätigen Ärzte verwenden KI, besonders bei der Analyse bildgebender Verfahren. Diese Entwicklung unterstreicht die zunehmende Akzeptanz und den technologischen Fortschritt im medizinischen Bereich. In deutschen Kliniken sind digitale Technologien mittlerweile weit verbreitet und erleichtern den medizinischen Alltag in vielerlei Hinsicht. Besonders hervorzuheben ist der Einsatz von Robotik: Bei 26 % der Kliniken unterstützen Roboter medizinisches Personal bei Operationen und Eingriffen. Virtual Reality (VR) gewinnt ebenfalls an Bedeutung, insbesondere für Trainingszwecke oder bei bestimmten operativen Eingriffen. Obwohl derzeit nur 11 % der Klinikärzte VR nutzen, halten es mehr als die Hälfte (54 %) für sinnvoll, diese Technologie zukünftig in ihrer Klinik einzuführen.²⁵⁾

https://www.aerzteblatt.de/news/breite-akzeptanz-fur-anwendung-von-kunstlicher-intelligenz-im-gesundheitswesen-827eeb11-722e-4c9d-addc-3aa73d571cd1

Befragt wurden 200 Ärztinnen und Ärzte sowie 5000 Menschen ab 18 Jahren in Deutschland.

Die Umfrage zeigt, dass nur 20 Prozent von ihnen den Einsatz von KI in der medizinischen Versorgung grundsätzlich ablehnen. Bei den Ärztinnen und Ärzten sehen 48 Prozent in der Technologie eine Chance. Weitere 27 Prozent bewerten KI neutral – sie erkennen sowohl Chancen als auch Risiken. Knapp 22 Prozent sind eher skeptisch und sehen bei KI hauptsächlich die Nachteile.

Besonders großes Potenzial sehen Ärztinnen und Ärzte beim Einsatz von KI in der Dokumentation. Mehr als jeder Zweite (52,5 Prozent) erwartet hier Unterstützung. Auch bei der Terminplanung verspricht sich ein erheblicher Teil (45 Prozent) mehr Entlastung. Weniger relevant erscheint der Einsatz als Entscheidungshilfe bei Diagnosen und Therapien: Nur 36 Prozent sehen darin einen Vorteil. 17,2 Prozent erkennen keinen Nutzen in der Technologie.

Patientinnen und Patienten hoffen vor allem auf praktische Verbesserungen: Die Mehrheit (51,9 Prozent) wünscht sich KI-gestützte Terminvergaben. 42,8 Prozent sehen Vorteile beim bürokratischen Aufwand. Wenn es jedoch um direkte medizinische Entscheidungen geht, ist die Zurückhaltung größer. Nur rund ein Drittel (31,2 Prozent) möchte, dass KI bei Diagnose und Therapie mitwirkt. 19 Prozent der Patientinnen und Patienten sehen keine Vorteile im Einsatz von KI.

Interessant ist auch der Blick auf die Erwartungen: 60 Prozent der Befragten aus der Bevölkerung hoffen, dass KI mehr Raum für persönliche Gespräche mit dem Arzt schafft. Ärztinnen und Ärzte sind hier vorsichtiger. Zwar sehen 50 Prozent dank KI die Möglichkeit, mehr Zeit für Patientinnen und Patienten zu gewinnen, doch 40 Prozent sind unsicher, ob diese Zeit tatsächlich dort ankommt.

https://www.handelsblatt.com/technik/medizin/inside-digital-health/gesundheitswesen-warum-patienten-kuenstlicher-intelligenz-misstrauen/100109801.html

Eine Studie zeigt: Die Mehrheit der Patientinnen und Patienten vertraut nicht darauf, dass Künstliche Intelligenz (KI) im Gesundheitswesen verantwortungsvoll eingesetzt wird.

Nach eigenen Angaben repräsentative Online-Befragung.

Ergebnisse:
61% sehen KI als Chance beim Einsatz in der Medizin
26% sehen überwiegend Risiken beim Einsatz von KI
13% sind unentschlossen

86% verbinden hohe Erwartungen mit der Nutzung von KI in der Medizin Konkret:

• 50% äußerten die Hoffnung, dass KI den Arzt bei der Therapieauswahl unterstützt
• 47% erwarten mehr Zeit für Patientengespräche aufgrund effizienterer Abläufe
• 45% äußerten Hoffnung auf einen möglichst optimalen Therapieverlauf
• 14% hegen keine Erwartungen

25% würden zu einem Arzt wechseln, der KI nutzt
21% sehen KI-Nutzung beim Arzt als Negativkriterium
54% sehen in KI-Nutzung kein Kriterium

82% äußerten Bedenken beim Einsatz von KI Konkret:

• 42% sehen Cybersicherheits- und Datenverlustrisiken
• 36%: undurchsichtige Behandlungsentscheidungen
• 35% Bedenken, ob sie eine optimale Behandlung erhalten würden
• 18%: keine Bedenken

51% wären bereit Symptomchecker zu nutzen
9% nutzen diese bereits
19% lehnen die Nutzung von Symptomcheckern ab

Quelle: https://www.aerzteblatt.de/nachrichten/149823/Kuenstliche-Intelligenz-Deutsche-sehen-Chance-fuer-die-Medizin

Studie, die u.a. von Wissenschaftlern von Google Research erstellt wurde:

• Demnach beurteilten Ärzte die Antworten auf allgemeine medizinische Fragen eines neuartigen Chatbots zu 92,6% als richtig. Antworten von tatsächlichen Ärzten wurden hingegen zu 92,9% als richtig bewertet. Antworten des Chatbots wurden zu 5,8% als potentiell gefährdend eingestuft (im Vergleich zu 6,5% der Antworten von Ärzten).
• Antworten des Chatbots auf Fragen in (US-) Zulassungsprüfungen für Ärzte waren zu 68% korrekt.
• Die Autoren schlussfolgern, dass KI Ärzte nicht ersetzen kann, die technologischen Fortschritte in jüngster Zeit aber enorm seien.

Das McKinsey Global Institute sieht durch KI eine zusätzliche Steigerung des BIP von 1,2%/Jahr. Damit läge der jährliche Wachstumseffekt deutlich über den früheren Auswirkungen der Dampfmaschine (0,3%) und der Industrieroboter (4%).²⁶⁾

Accenture erwartet eine Verdopplung der Wachstumsrate des BIP bis 2035.²⁷⁾

Goldman Sachs geht in der Summe davon aus, dass die KI weltweit 300 Millionen Arbeitsplätze überflüssig macht.²⁸⁾

Der jährliche AI Index Report der Stanford University vermeldet seit 2018 jährlich neue Höchststände.²⁹⁾

In volkswirtschaftlichen Basiskennzahlen, wie z.B. Produktivitätskennzahlen, lässt sich der Einfluss von KI derzeit allerdings noch nicht messen. Nach Erhebungen des britischen Economist sank die Produktivität im Jahr 2022 sogar.³⁰⁾

Auch die Vorhersagen zum Wegfall von Arbeitsplätzen bewahrheiten sich noch nicht. So ist in den USA in den letzten Jahren der Anteil der Beschäftigten in den Berufen, die angeblich durch KI gefährdet sind, sogar um einen halben Prozentpunkt gestiegen.³¹⁾

Die Menschen in Deutschland stehen dem Einsatz von Technologien wie Robotik und Künstlicher Intelligenz (KI) im Pflege- und Gesundheitssektor vergleichsweise positiv gegenüber. In einer repräsentativen Umfrage unter Verbraucherinnen und Verbrauchern in den USA, Japan, Frankreich und Deutschland lag der Zustimmungswert hierzulande auf einer Skala von minus 10 (sehr hohe Ablehnung) bis plus 10 (sehr hohe Offenheit) bei einem Wert von 1,6. Japan erreichte überraschend nur einen Zustimmungswert von 0,9 – vor den USA (0,7) und Frankreich (0,1).³²⁾

• Kann KI Bewusstsein: https://www.pharmazeutische-zeitung.de/kann-ki-ein-bewusstsein-entwickeln-145268

Bei administrativen Anwendungen greift vor allem das Datenschutzrecht, bei medizinischen Systemen kommen zusätzlich der AI Act und das Medizinprodukterecht ins Spiel

• Verabschiedung vom Rat am 21.5.2024
• Veröffentlichung im EU-Amtsblatt am 11.7.2024³³⁾
• Inkrafttreten: laut Art. 113 KI-VO am 20. Tag nach seiner Veröffentlichung im EU-Amtsblatt ⇒ 1.8.2024
• Dabei erstrecken sich die Compliance-Umsetzungsfristen auf die nächsten 3 Jahre

• Ausgenommen sind
  • der Bereich der Verteidigung und nationale Sicherheit, d.h. insbesondere autonome Waffensysteme sind nicht erfasst
  • autonome Kraftfahrzeuge, Drohnen und eine Reihe ähnlicher Produkte
  • Systeme, die ausschließlich zu Forschungszwecken entwickelt wurden
  • inkl. verwirrender Ausnahmereglung für Open-Source-Systeme…
• Definition von KI
  • Orientierung an der überarbeiteten Definition der OECD von November 2023
  • eher unscharf und weit gefasst
• Adressiert Nutzer und Anbieter von KI
• Haftungsfragen rund um den Einsatz von KI werden nicht geregelt. Diese sollen in zukünftigen Richtlinien der EU adressiert werden³⁴⁾
• Risikobasierter Ansatz³⁵⁾/Risikopyramide
  • Verbotene KI-Systeme
    • KI-Systeme, die Personen manipulieren, so dass si sich und anderen Personen einen Schaden zufügen können
    • KI-Systeme, die die Schwäche oder Schutzbedürftigkeit vulnerabler Gruppen ausnutzen und Personen schädigen können.
    • KI-Systeme, die zur Bewertung oder Klassifizierung der Vertrauenswürdigkeit von Personen benutzt werden sollen (Social-Scoring-Systeme)
    • Biometrische Echtzeit-Fernidentifikationssysteme in öffentlich zugänglichen Räumen durch Ermittlungsbehörden zum Zwecke der Strafverfolgung (bis auf wenige Ausnahmen)
    • unerlaubter Erkennung von Emotionserkennung am Arbeitsplatz bzw. Bildungseinrichtungen
  • Hochrisiko-KI-Systeme
  • Geringes und minimales Risiko
  • Verhältnis zur DSGVO
    • KI-VO stellt in Art. 2 Abs. 7 klar, dass die Vorgaben der DSGVO vollumfänglich Anwendung finden ⇒ ggf. „Doppelverpflichtungen“
    • Unklar ist bislang, ob die Einführung der KI-VO in D durch die Datenschutzaufsichtsbehörden überwacht wird.³⁶⁾; geeignet wäre bspw. auch die Bundesnetzagentur
    • Flexibilisierung/Anpassungsfähigkeit über
      • Leitlinien zur praktischen Umsetzung
      • Ermächtigung für einige delegierte Rechtsakte
    • weniger risikobasiert als KI-VO

Mit der KI-Verordnung (EU) 2024/1689 (KI-VO) hat der EU-Gesetzgeber einheitliche Regeln für den Einsatz von KI-Systemen in der EU geschaffen. Die Verordnung gilt unmittelbar in allen Mitgliedstaaten. Allerdings müssen die nationalen Gesetzgeber noch Durchführungsvorschriften erlassen. Für ein deutsches Gesetz zur Durchführung der KI-Verordnung gibt es einen Entwurf aus dem Digitalministerium.³⁷⁾

Das Wichtigste im Überblick:

🕸️ Die Bundesnetzagentur (BNetzA) bleibt die Spinne im Netz der Aufsichtsbehörden und soll mit einer KI-Marktüberwachungskammer federführend für die Einhaltung der KI-Verordnung sorgen. Daneben erhält die BaFin eine Sonderzuständigkeit für den Einsatz von KI-Systemen in der regulierten Finanzwirtschaft. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ist bis auf Weiteres für die Cybersicherheit von KI-Systemen zuständig.

🧺 Die Datenschutzaufsichtsbehörden erhalten einen Korb. Das Digitalministerium will eine unterschiedliche Auslegung der KI-Verordnung durch verschiedene Aufsichtsbehörden vermeiden. Aus diesem Grund und weil die Datenschutzaufsichtsbehörden „keine Erfahrung mit Produktregulierung haben“ erhalten sie keine zusätzlichen Befugnisse.

🚀 Aus dem „KI-Marktüberwachungsgesetz“ der Ampel wird das „KI-Marktüberwachungs- und Innovationsförderungsgesetz“ der schwarz-roten Koalition. An den Vorschriften zur Innovationsförderung gibt es jedoch keine nennenswerten Änderungen.

🚦 Im Vergleich (🔗 https://lnkd.in/ePgTKSgs) mit dem Referentenentwurf der Ampelregierung enthält der neue Entwurf insgesamt keine großen Überraschungen.

🕛 Zeitplan: Der Entwurf wird jetzt zwischen den einzelnen Ressorts abgestimmt. Die Beteiligung der Länder und Verbände soll ab dem 04.09.2025 starten. Danach schließt sich das parlamentarische Verfahren an.

💡 Wie können sich Unternehmen auf die KI-VO vorbereiten? Für eine effiziente Umsetzung der KI-VO benötigen Unternehmen ein KI-Compliance-Konzept. Ob Sie überhaupt betroffen sind und welche Pflichten gelten, können Sie mit dem kostenlosen Quick-Check von Philipp Reusch und Christina Kiefer, LL.M. überprüfen: 🔗 https://kivo-check.de.³⁸⁾

KI-VO und MP-VO regeln das WAS, die Norm ISO/IEC 42001 das Wie

Zusammenfassung Rechtsrahmen: https://www.hcm-magazin.de/ki-im-krankenhaus-nicht-um-jeden-preis-425194/

BSI Chancen und Risiken: https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Generative_KI-Modelle.pdf?__blob=publicationFile&v=7

• DIGITAL (EU) ⇒ 1,3 Milliarden Euro