Zukunft mit intelligenten Maschinen: Aber wie?
Das Thema „Autonome Systeme. Wie intelligente Maschinen uns verändern" zog über 500 Teilnehmerinnen und Teilnehmer zur Jahrestagung des Deutschen Ethikrates nach Berlin. Ethische, rechtliche und soziale Aspekte sind für und mit der gesamten Gesellschaft zu diskutieren, zu entscheiden und zu gestalten zur Frage, wie sie das erhebliche Potenzial der neuen Entwicklungen nutzen will, so die Intension des Veranstalters.
Sogenannte autonome Systeme wie selbstfahrende Autos, Pflegeroboter, vernetzte Haushaltsgeräte und autonome Waffensysteme kommen bereits in unserem Alltag zum Einsatz oder stehen kurz vor der Marktreife. Sie lernen und entscheiden selbst: Eine ausgeklügelte Sensorik, komplexe und selbstlernende Algorithmen sowie umfassende Vernetzungsmöglichkeiten erlauben es ihnen, schnell und unter Abgleich vielfältiger Daten auf ihre Umwelt zu reagieren und weitgehend unabhängig von menschlichen Eingriffen zu agieren. Der Vorsitzende des Ethikrates, Peter Dabrock, machte gleich zu Beginn der Tagung deutlich: „Können wir im Meer unserer Datenströme selbstbestimmt wir selbst bleiben, oder stolpern wir – mehr berauscht als bewusst – vor lauter Freude an Miniaturverbesserungen unseres Alltages in eine Unmündigkeitsfalle hinein?"
Henning Kagermann von der Deutschen Technikakademie acatech berichtete eingangs, was hochautomatisierte Systeme bereits jetzt können und wie mithilfe von Methoden der künstlichen Intelligenz eine neue Generation zunehmend autonomer Systeme entsteht. Ob Industrieproduktion, Mobilität, Smart Home oder für Menschen gefährliche (Rettungs-)Maßnahmen – für alle Anwendungsfelder gelte, dass mit den Maschinen Menschen unterstützt und ihre Fähigkeiten ergänzt, sie aber nicht ersetzt werden sollten. Deshalb sei „ein frühzeitiger und langfristig angelegter gesellschaftlicher Dialog nötig, in dem Chancen und Risiken transparent gemacht und gegeneinander abgewogen werden", so Kagermann.
Der Einsatz autonomer Systeme wird „Märkte im Sinne einer ‚kreativen Zerstörung' ebenso rapide verändern ... wie soziale und administrative Institutionen", prognostizierte Christoph M. Schmidt, Vorsitzender des Sachverständigenrates zur Begutachtung der gesamtwirtschaftlichen Entwicklung. Er forderte neue Regulierungsansätze, die die Befähigung zur individuellen Teilhabe und Absicherung gegenüber dem Schutz durch den Staat in den Vordergrund stellen.
Katharina A. Zweig von der Technischen Universität Kaiserslautern beklagte die zweifelhafte Qualität von Algorithmus-basierten, entscheidungsunterstützenden Systemen. Sie mahnte dringend „die Entwicklung qualitätssichernder Prozesse zu ihrem Design, ihrer Implementierung, Wartung und kontinuierlichen Verbesserung an. Dazu bedarf es einer gesamtgesellschaftlichen Diskussion darüber, welche gesellschaftlichen Prozesse sich überhaupt für algorithmische Entscheidungssysteme eignen und nach welchen Kriterien sie optimiert werden sollen", so Zweig.
Aus philosophischer Perspektive legte Julian Nida-Rümelin von der Ludwig-Maximilians-Universität München dar, warum autonome Systeme keine Verantwortung übernehmen könnten. Der Verantwortungsbegriff sei an Intentionalität und Personalität gek oppelt – Fähigkeiten, die so alleine Menschen zukämen. Die Entwicklung und der zunehmende Einsatz autonomer Systeme seien zwar wünschenswert, „aber ethisch nur unter der Bedingung vertretbar, dass autonomen Systemen keine mentalen und speziell personalen Eigenschaften zugeschrieben" würden. Eine starke künstliche Intelligenz sei zudem sogar technikfeindlich, da man wirklich intelligenten Maschinen konsequenterweise Rechte und Würde zugestehen müsse, die ihrer Instrumentalisierung enge Grenzen setzen würden.
Die Juristin Christiane Wendehorst von der Universität Wien ergänzte, dass im derzeit geltenden Recht Maschinen selbst dann keine Rechtspersönlichkeit zukomme, wenn sie mit fortgeschrittener künstlicher Intelligenz ausgestattet sind. „Sie sind daher auch nicht Adressaten rechtlicher Regelungen und können weder ‚dürfen' noch ‚nicht dürfen'", so Wendehorst. Regelungsadressaten seien vielmehr die Menschen oder juristischen Personen, die Maschinen herstellen, verkaufen und nutzen. Wie Nida-Rümelin hielt auch sie eine Entwicklung hin zur „e-person" nicht für wünschenswert – eine Einschätzung, der aus dem Publikum teilweise widersprochen wurde.
Am Nachmittag diskutierten die Teilnehmer in vier parallel stattfindenden Foren über autonome Systeme in verschiedenen Anwendungsfeldern. Es ging um selbstfahrende Autos, Medizinmaschinen und Pflegeroboter, das vernetzte Heim und autonome Waffensysteme – in letztgenanntem Forum sprach unter anderem der Inspekteur der Luftwaffe, Generalleutnant Karl Müllner. In allen Foren wurde deutlich, dass entgegen einer Tendenz, den Menschen zum Objekt der autonomen Systeme zu machen, der Mensch und seine Autonomie im Mittelpunkt bleiben müssen.
In ihrem abschließenden Vortrag beurteilte die Schriftstellerin Thea Dorn die Anwendung von Begriffen wie Intelligenz, Autonomie und Lernen auf Maschinen als überaus problematisch, da diese zu „den Königstugenden des Menschen" gehörten. Bei der Automatisierung von Maschinen hingegen ginge es in erster Linie darum, diese zu gut funktionierenden Helfern abzurichten. Angesichts einer Tendenz zur geistigen Trägheit, wenn allzu viele Kompetenzen an Maschinen abgetreten werden, forderte Dorn „persönlichkeitsbildende Fitnessbänder" um individuelle und gesellschaftliche Resilienzen zu bilden.
Vorträge und Diskussionsbeiträge sowie Audio- und Videomitschnitt unter www.ethikrat.org/veranstaltungen/jahrestagungen/autonome-systeme
Quelle: Pressemitteilung des Deutschen Ethikrates vom 22. Juni 2017