Veranstaltung Rückblick 01. April 2019

Gesprächsabend des Gemeinsamen Ausschusses zum Umgang mit sicherheitsrelevanter Forschung von DFG und Leopoldina

02.04.2019

Am 1. April 2019 fand ein Gesprächsabend des Gemeinsamen Ausschusses zum Umgang mit sicherheitsrelevanter Forschung im Rahmen der Kampagne „Freiheit ist unser System“ der Allianz der zehn Forschungsorganisationen zur Wissenschaftsfreiheit in der Hörsaalruine der Charité in Berlin statt.

Gefragt wurde danach, wer die Verantwortung trägt, wenn Forschungsergebnisse auch unbeabsichtigte schädliche Folgen haben und ob die eigenverantwortliche Restriktion der Forschenden ausreicht, um dystopischen Szenarien vorzubeugen.

In der Einführung stellte der Leiter der Geschäftsstelle des Gemeinsamen Ausschusses, Johannes Fritsch, die Empfehlungen von DFG und Leopoldina „Wissenschaftsfreiheit und Wissenschaftsverantwortung“ vor und erläuterte die Arbeit des Gemeinsamen Ausschusses und dessen Ziele, die Forschungseinrichtungen bei der Etablierung von Kommissionen für Ethik sicherheitsrelevanter Forschung zu unterstützen, die Wissenschaft in diesem Themenfeld zu beraten sowie das Bewusstsein zu stärken für einen möglichen Missbrauch von Forschungsergebnissen. Anschließend entwarf der Science-Fiction-Autor Andreas Brandhorst ein dystopisches Szenario zur Künstlichen Intelligenz (KI). Er postulierte, dass die Menschheit bereits am Abgrund stehe und in Gefahr laufe, die Kontrolle über ihre selbstgeschaffene Technologie zu verlieren.

In der abschließenden Podiumsdiskussion, die von der Wissenschaftsjournalistin Verena Gonsch moderiert wurde, debattierten Andreas Brandhorst und Jochen Taupitz, Experte für Medizin- und Gesundheitsrecht sowie Bioethik, über die Risiken des wissenschaftlichen Fortschritts für die Gesellschaft. Taupitz wies auf das hohe Gut der Wissenschaftsfreiheit hin und plädierte dafür, die Chancen der Forschung voll auszuschöpfen. Gleichzeitig müsse man potentielle Gefahren, die neue Entwicklungen mit sich tragen, und deren Nutzen sorgfältig abwägen.

Während Andreas Brandhorst davor warnte, aufgrund der rasanten Technologieentwicklung der letzten 25 Jahre Missbrauchspotentiale zu unterschätzen, plädierte Jochen Taupitz für eine Stärkung der Selbstkontrolle der Wissenschaft, die ein mächtiges Instrument sei. Das interessierte Publikum beteiligte sich rege an der Diskussion. Ein IT-Wissenschaftler insistierte, dass die KIs noch lange nicht „intelligent“ sind, sondern man in der Forschung eher vom „Maschinellen Lernen“ oder „Mustererkennung“ spricht. Die Entwicklung sei noch nicht auf dem Stand, dass KI beispielsweise eigenständige Entscheidungen treffe und ihre Umwelt manipulieren könne. Eine Medizinethikerin sprach sich unter anderem dafür aus, neben Risiken auch den Nutzen neuer Entwicklungen in den Blick zu nehmen, so wie es in der medizinischen Forschung weitestgehend der Fall ist.

Letztlich stellten die Diskutanten fest, dass auch die Kunst ähnlichen Abwägungen hinsichtlich ihrer Freiheit unterliegt und dass sich Wissenschaft und Kunst seither stets wechselseitig beflügelt haben.