Zusammenfassung Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz und Robotik stellen nicht nur die Ethik, sondern auch das Recht vor neue Herausforderungen, gerade im Bereich der Medizin und Pflege. Grundsätzlich hat der Einsatz von KI dabei das Potenzial, sowohl die Heilbehandlungen als auch den adäquaten Umgang im Rahmen der Pflege zu erleichtern, wenn nicht sogar zu verbessern. Verwaltungsaufgaben, die Überwachung von Vitalfunktionen und deren Parameter sowie die Untersuchung von Gewebeproben etwa könnten autonom ablaufen. In Diagnostik und Therapie können Systeme (...) die behandelnde Ärztin unterstützen. Intelligente Betten ermöglichen eine Frühmobilisierung der Patient:innen bei gleichzeitig geringerem Personalaufwand. Gleichwohl birgt der Einsatz der Systeme rechtliche Herausforderungen. So besteht das Risiko einer Verletzung der beteiligten Personen. Im Gegensatz zu herkömmlichen Technologien „leidet“ KI unter der „Black-Box-Problematik“: Die von den Systemen generierten Ergebnisse sind nicht mehr vollständig vorhersehbar und nachvollziehbar. Der Einsatz birgt unbekannte und unkalkulierbare Risiken, was sich insbesondere auf die zivilrechtliche Haftung und strafrechtliche Verantwortung auswirkt. Wem die Entscheidungen der Systeme normativ zuzurechnen sind, ist eine Kernfrage des juristischen Diskurses. Die aus praktikabilitätsgründen naheliegende Wahl, dem letztentscheidenden Menschen das Verhalten eines KI-Systems zuzurechnen, überzeugt nicht in allen Fällen, sondern degradiert ihn häufig zum symbolischen Haftungsknecht und legt ihm einseitig die Risiken der Technologien auf. Weiterhin ergeben sich im Bereich der Medizin und Pflege Fragen hinsichtlich der Zulassung von KI-Systemen, da die Maschinen während der Nutzung weiterlernen und so ihren strukturellen Aufbau kontinuierlich verändern. Es ist daher angebracht, sich frühzeitig mit dem Konfliktpotential aus ethischer und rechtlicher Sicht auseinander zu setzen, um einer potenziellen gesellschaftlichen Angst vor derartigen Systemen vorzubeugen und einen praxisgerechten Handlungsrahmen zu schaffen. (shrink)

Zusammenfassung Digitale Programme unterstützen mittlerweile sowohl die Erhebung des Pflegebedarfs und die Pflegeplanung als auch die Dokumentation der geleisteten Pflege. Neben Verbesserungen ergeben sich jedoch auch Spannungen zwischen der Verrichtungsorientierung und Standardisierung der digitalen Systeme und dem Fürsorgeethos der Pflege. Daher sind digitale Systeme sowohl aus pflegefachlicher als auch aus pflegeethischer Sicht zu beleuchten, um Chancen und Risiken aufzuzeigen. Pflegeverständnis und Pflegeziele werden in digitalen Programmen nicht explizit gemacht. Bedingt durch die mangelnde Transparenz können sich professionell Pflegende mit gegebenenfalls anderen (...) Pflegeverständnissen nicht dazu verhalten und von den Gepflegten auch keine angemessene Zustimmung zu Pflegemaßnahmen und -zielen einholen. Die Analyse einiger gängiger Programme zeigt, dass digitale Systeme zur somatischen Verkürzung der Pflege tendieren. So werden derzeit Ziele und Maßnahmen zur Kommunikation, Beziehungsgestaltung und Begleitung in Phasen von Krankheit und Sterben kaum abgebildet. In der Einführung digitaler Systeme liegt im Grunde die Chance eines Neubeginns, da sie durch digitale Normierungen zu stärkerer Patientenorientierung und Partizipation beitragen könnten. Es sollte zugleich jedoch die Partizipation der Betroffenen gewährleistet und die Transparenz und Veränderbarkeit der Systeme gewährleistet sein. (shrink)

Zusammenfassung In der öffentlichen Debatte über die Corona-Warn-App kann der Solidaritätsbegriff als wichtiger, aber inhaltlich umstrittener normativer Bezugspunkt gelten. So stehen hier unterschiedliche Solidaritätsrekurse mit heterogenen Voraussetzungen, normativen Implikationen und praktischen Konsequenzen nebeneinander, die einer medizinethischen Untersuchung bedürfen. Vor diesem Hintergrund ist es Ziel des Beitrags, _erstens_ die Bandbreite der Verwendungsweisen des Solidaritätsbegriffs in der öffentlichen Debatte zur Corona-Warn-App anschaulich zu machen sowie _zweitens_ die Voraussetzungen und normativen Implikationen dieser Verwendungsweisen herauszuarbeiten und einer ethischen Bewertung zu unterziehen. Dazu stelle ich (...) nach einer kurzen Einführung in die Corona-Warn-App und einer Vergegenwärtigung der Grundzüge des Solidaritätskonzepts vier Beispiele aus der öffentlichen Debatte zur Corona-Warn-App dar, die mit Blick auf die zugrundeliegende Identifikation, die Solidaritätsgruppe, den solidarischen Beitrag sowie das normative Ziel erhebliche Unterschiede aufweisen. Sie unterstreichen die Notwendigkeit weiterführender Maßstäbe, um ihre Legitimität zu bewerten. Dazu greife ich auf vier normative Kriterien einer kontextsensitiven, moralisch gehaltvollen Solidaritätskonzeption zurück (Solidaritätsoffenheit, gestaltbare Inklusivität, Angemessenheit des solidarischen Beitrags, normative Abhängigkeit) und evaluiere auf dieser Grundlage die vorgestellten Solidaritätsrekurse ethisch. Für alle dargestellten Solidaritätsrekurse lassen sich in der Folge kritische Rückfragen formulieren. Dabei werden einerseits die Potenziale und Limitationen von Solidaritätsrekursen in öffentlichen Debatten deutlich. Andererseits werden Schlussfolgerungen möglich, wann eine Tracing-App tatsächlich als solidarische Technologie zur Pandemiebekämpfung verstanden werden kann. (shrink)

Zusammenfassung Der Diskurs um emotions- und soziosensitive Roboter in der Pflege kann aktuell eher als Ausdruck eines technologischen Solutionismus interpretiert werden, denn als realitätsgerechte Beschreibung des pflegerischen Alltags. Aus ethischer Perspektive ist demnach weniger drängend die Frage zu beantworten, wie die Systeme bzw. deren Einsatz aktuell konkret bewertet werden können, sondern welche Rolle dieser KI-gestützten Systemart in den Technikvisionen und -fiktionen zugeschrieben wird und welche normativen Aspekte bei der Entwicklung und dem Einsatz zukünftig Beachtung finden sollten. Dazu werden Elemente eines (...) anthropologischen und ethischen Reflexionsraums skizziert, welcher Aspekte benennt, die bei der Entwicklung dieser Art von Technik zu bedenken sind. Um fundierte ethische Urteilsbildung zu ermöglichen, wird eine fünfdimensionale Heuristik präsentiert, die anhand der Dimensionen Emotion, Interaktion, Kontext, Akteur und Aktant eine konkrete Situationsanalyse gestattet. Auf dieser empirisch informierten Basis können implementierbare technische Lösungen entwickelt werden bzw. bereits entwickelte ethisch evaluiert werden. (shrink)

Definition of the problem This article critically addresses the conceptualization of trust in the ethical discussion on artificial intelligence (AI) in the specific context of social robots in care. First, we attempt to define in which respect we can speak of ‘social’ robots and how their ‘social affordances’ affect the human propensity to trust in human–robot interaction. Against this background, we examine the use of the concept of ‘trust’ and ‘trustworthiness’ with respect to the guidelines and recommendations of the High-Level (...) Expert Group on AI of the European Union. Arguments Trust is analyzed as a multidimensional concept and phenomenon that must be primarily understood as departing from trusting as a human functioning and capability. To trust is an essential part of the human basic capability to form relations with others. We further want to discuss the concept of _responsivity _which has been established in phenomenological research as a foundational structure of the relation between the self and the other. We argue that trust and trusting as a capability is fundamentally _responsive_ and needs responsive others to be realized. An understanding of _responsivity_ is thus crucial to conceptualize trusting in the ethical framework of human flourishing. We apply a phenomenological–anthropological analysis to explore the link between certain qualities of social robots that construct responsiveness and thereby simulate responsivity and the human propensity to trust. Conclusion Against this background, we want to critically ask whether the concept of trustworthiness in social human–robot interaction could be misguided because of the limited ethical demands that the constructed responsiveness of social robots is able to answer to. (shrink)

Definition of the problem The umbrella term “explicability” refers to the reduction of opacity of artificial intelligence (AI) systems. These efforts are challenging for medical AI applications because higher accuracy often comes at the cost of increased opacity. This entails ethical tensions because physicians and patients desire to trace how results are produced without compromising the performance of AI systems. The centrality of explicability within the informed consent process for medical AI systems compels an ethical reflection on the trade-offs. Which (...) levels of explicability are needed to obtain informed consent when utilizing medical AI? Arguments We proceed in five steps: First, we map the terms commonly associated with explicability as described in the ethics and computer science literature, i.e., disclosure, intelligibility, interpretability, and explainability. Second, we conduct a conceptual analysis of the ethical requirements for explicability when it comes to informed consent. Third, we distinguish hurdles for explicability in terms of epistemic and explanatory opacity. Fourth, this then allows to conclude the level of explicability physicians must reach and what patients can expect. In a final step, we show how the identified levels of explicability can technically be met from the perspective of computer science. Throughout our work, we take diagnostic AI systems in radiology as an example. Conclusion We determined four levels of explicability that need to be distinguished for ethically defensible informed consent processes and showed how developers of medical AI can technically meet these requirements. (shrink)

Zusammenfassung In einem ersten Kapitel wird am Beispiel der Entstehung von Antibiotikaresistenzen gezeigt, dass es in der Medizin spezifische Nachhaltigkeitsprobleme gibt, die letztlich zu einer Beeinträchtigung der Fähigkeit zukünftiger Patient:innen führen können, ihre Gesundheitsbedürfnisse zu befriedigen und ein gutes Leben zu leben. Nachdem in einem zweiten Kapitel auf den Nachhaltigkeitsbegriff genauer eingegangen wurde, wird im dritten Teil erläutert, dass und warum die Möglichkeit zur Befriedigung elementarer Gesundheitsbedürfnisse z. B. im Rahmen eines Capability-Ansatzes zu Recht als eine Bedingung für ein gutes (...) Leben gilt. Das Konzept der Nachhaltigkeit der Vereinten Nationen fordert, die Ansprüche auf ein gutes Leben zukünftiger Patient:innen angemessen zu berücksichtigen. Im vierten Teil wird dargestellt, wie Nachhaltigkeitsforderungen im klinischen Kontext zu einem Nachhaltigkeits-Dilemma führen können, und geklärt, auf welche Weise mit diesem Dilemma umgegangen werden kann. (shrink)

Zusammenfassung Der Beitrag geht von der These aus, dass Arzt- und Krankenhausserien (sog. _medicals_) das Wechselverhältnis von Medizin und den Vorstellungen eines guten Lebens in der Zeit verhandeln. Dabei popularisieren sie als „institutionalisierter Interdiskurs“ (Link 1988) nicht nur medizinisches Wissen, sondern ebenso Haltungen zu medizinethischen Fragen. Sie sind als Formen einer „Medienmedizin“ (Wulff 2001) zu begreifen, die medienspezifischen Gestaltungskonventionen folgen. Für die Analyse von Fernsehserien genügt es nicht, explizite Stellungnahmen (etwa in der Figurenrede) zu beachten; vielmehr sind neben visuellen Aspekten (...) insbesondere auch das Genre, die Dramaturgie und die Figurenkonstellation zu berücksichtigen. Am Beispiel einer Folge der ARD-Serie _In aller Freundschaft_ (D, seit 1998) wird veranschaulicht, wie die verschiedenen Elemente ineinandergreifen, um innerhalb der Erzählung einen bestimmten Wertehorizont zu etablieren. (shrink)

Zusammenfassung Steigende Lebenserwartung, sozialer Wandel und medizinische Innovationen fordern traditionelle Sichtweisen auf das Alter(n) heraus. Was einst als eine „normale“ Alterserscheinung galt, wird heute im Lichte veränderter Lebensentwürfe und neuartiger Interventionsmöglichkeiten oft schon als Erkrankung aufgefasst und behandelt. Altersbezogene Gesundheitsstandards und Behandlungsziele geraten in Bewegung. Es eröffnet sich ein Spannungsfeld zwischen Bagatellisierung und Pathologisierung von Alterungsprozessen, das der ethischen Reflexion bedarf. Der Beitrag geht der Frage nach, wie individuelle und gesellschaftliche Vorstellungen des Alter(n)s im Kontext der modernen Medizin ethisch zu (...) verstehen sind. Dazu geben wir zunächst einen Überblick zur Rolle von Altersbildern in der medizinischen und pflegerischen Versorgung älterer Menschen. Anschließend werden begrifflich-theoretische Perspektiven umrissen, die solche Bilder des Alter(n)s einer strebensethischen Analyse zugänglich machen. Welche Formen der Gesundheitsversorgung im höheren Alter als sinnvoll und angemessen zu gelten haben, ist demnach nicht zuletzt im Licht der Frage nach der Zeitstruktur guten Lebens zu diskutieren. (shrink)