Beitrag von DLR Institut für KI-Sicherheit

Lünendonk-Studie 2024: Rechtliche Bedenken bremsen den Einsatz von KI in Unternehmen: Der Durchbruch bei generativer Künstlicher Intelligenz (KI) markiert einen bedeutenden Meilenstein in der digitalen Transformation. Unternehmen setzen sich intensiv mit dieser Technologie auseinander, wie die aktuelle Lünendonk-Studie 2024 „Generative AI – Von der Innovation bis zur Marktreife“ (https://ogy.de/96tx) zeigt. Herausforderungen und Chancen: Generative KI hat das Potenzial, Entscheidungsprozesse zu verbessern, die Produktivität zu steigern und bisher unerreichte Effizienz zu ermöglichen. Dennoch bringt dieser Fortschritt auch erhebliche Herausforderungen mit sich, insbesondere im Hinblick auf rechtliche und ethische Aspekte. Rechtliche Hürden: Ein zentrales Hindernis für den umfassenden Einsatz generativer KI in Unternehmen sind rechtliche Unsicherheiten. Diese betreffen vor allem Fragen des Urheberrechts, des Datenschutzes und der Haftung. Unternehmen müssen sicherstellen, dass die von KI-Systemen generierten Inhalte den rechtlichen Anforderungen entsprechen und keine geistigen Eigentumsrechte verletzen. Ethische Überlegungen: Neben rechtlichen Fragen spielen auch ethische Überlegungen eine wichtige Rolle. Die EU-Kommission hat in ihren Ethik-Richtlinien von 2019 vier Grundprinzipien für eine ethische KI-Nutzung festgelegt: Respekt der menschlichen Selbstbestimmung, Schadensvorbeugung, Fairness und Erklärbarkeit. Diese Prinzipien sollen sicherstellen, dass KI-Systeme verantwortungsvoll und transparent eingesetzt werden. Anwendungsbeispiele und Perspektiven: Die Lünendonk-Studie zeigt, dass Unternehmen trotz der Herausforderungen optimistisch in die Zukunft blicken. Viele planen, neue Geschäftsmodelle zu entwickeln und ihre Prozesse weiter zu digitalisieren. Generative KI wird dabei als Schlüsseltechnologie angesehen, die in verschiedenen Bereichen, von der Text- und Bildgenerierung bis hin zur Automatisierung von Entscheidungsprozessen, eingesetzt werden kann. Zusammenfassend: Die Lünendonk-Studie 2024 verdeutlicht, dass generative KI eine transformative Kraft für Unternehmen darstellt. Um jedoch ihr volles Potenzial auszuschöpfen, müssen rechtliche und ethische Bedenken adressiert werden. Nur so kann sichergestellt werden, dass der Einsatz von KI nicht nur effizient, sondern auch verantwortungsvoll und rechtskonform erfolgt.

Während die Chancen und Risiken besonders von generativer Künstlicher Intelligenz spätestens seit ChatGPT wieder ausführlich öffentlich und fachlich debattiert werden, veröffentlichte nun auch die Nationale Akademie der Wissenschaften Leopoldina ein aktuelles Diskussionspapier zu möglicherweise problematischen KI-Aspekten, die bislang aus Sicht der Autorinnen nur wenig thematisiert wurden. Untersucht werden die Potenziale und Risiken generativer KI jenseits von „optimistischen“ oder „pessimistischen Positionen“. Im Fokus stehen ethische, gesellschaftliche und regulatorische Herausforderungen, die sich im Zusammenhang mit diesen Technologien ergeben. Fokussiert wird auf sieben zentrale Problemfelder: - KI als konservatives Instrument (mögliche Verstärkung bestehender Vorurteile und Diskriminierungen durch Training mit historischen Daten, De-Biasing notwendig aber schwierig), - Explainable AI (fehlende Offenlegung der Entscheidungsfindung eines Systems), - Machtasymmetrien (Datenverarbeitung und –zugriff), - KI als kritische Infrastruktur (algorithmische Monokulturen, Homogenisierung von Ergebnisse), - Verfügbarkeit und Offenheit von KI, - Verantwortungsdiffusion sowie - Manipulations- und Täuschungsrisiken.   Das Papier beleuchtet sicher sinnvoll die ethischen Implikationen von KI und die Notwendigkeit, Technologien kritisch zu hinterfragen, anstatt sie blind zu akzeptieren. Auch die Diskussion über De-Biasing und Erklärbarkeit ist einerseits wertvoll, da sie die technologischen und ethischen Grenzen heutiger KI-Anwendungen deutlich macht, allerdings scheinen mir einige der Analysen, wie etwa die arge Betonung von De-Biasing und Fragen zu erklärbarer KI, nicht mehr ganz zeitgemäß in Bezug auf die rapide Entwicklung der Systeme. Beispielsweise schreitet die Forschung zu transparenten KI-Systemen und Explainable AI ja rasant weiter voran, und manche Hindernisse, die hier als beinah unüberwindbar dargestellt werden, könnten bald technisch, konzeptionell und strukturell ausreichend adressiert sein. Auch die Frage, wie KI in Zukunft wirklich zu verantworten und zu regulieren ist, wird hier noch wenig konkretisiert. Insgesamt liefert das Dokument wichtige Denkanstöße, die insbesondere im Kontext einer sich schnell entwickelnden KI-Technologielandschaft relevant bleiben. Doch die strikte Ablehnung einiger Anwendungsmöglichkeiten – wie der KI-gestützten Rechtsprechung – könnte zu eng gefasst sein, da KI in vielen Sektoren verantwortungsbewusst gestaltet zu einem integralen Bestandteil von Entscheidungsprozessen werden könnte, sofern entsprechende Sicherheiten gewährleistet sind (vgl. auch die Medizin, wo KI aus Diagnostik und Therapie teilweise bereits nicht mehr wegzudenken ist).   https://lnkd.in/d-umJbMg.   #ki #verantwortung #innovation

Was kommt nach der Automatisierung von Prozessen und der Einführung von IT? Richtig, die KI!     Deshalb haben wir uns in diesem Circle zusammen mit Oliver Wachsmuth damit befasst, wie die KI als Treiber für Innovation und Geschäftserfolg genutzt werden kann. Vielen Dank für den spannenden Vortrag!  Mein AHA-Moment aus diesem Circle war, als mir wieder bewusst wurde, dass hinter KI einfache mathematische Gleichungen stecken…    Was ich aus der Veranstaltung außerdem mitgenommen habe:  🏎️ Anwendungen von KI umfassen Computer Vision, Sprach- und Bilderkennung sowie die Verarbeitung natürlicher Sprache, die Unternehmen neue Effizienzpotenziale eröffnen.  💭 Unternehmen sollten ethische Überlegungen in ihre KI-Strategien integrieren und entsprechende Ressourcen in Schulungen und Richtlinien investieren, um sicherzustellen, dass KI-Anwendungen sicher und ethisch vertretbar sind.  👩🏼⚖️ Es wird betont, dass Unternehmen, die sich nicht ausreichend mit den ethischen Fragen der KI auseinandersetzen, Gefahr laufen, rechtliche und Reputationsrisiken einzugehen.    Im Endeffekt müssen Alle lernen mit KI zu arbeiten, um langfristig erfolgreich zu sein! Stimmt ihr mir da zu? Lasst uns darüber diskutieren!  Sabrina Ertner-Rehklau Henry Teinze Sebastian Wolfram Caroline Juszczak Luca Albrecht Julia Pauline Neth (geb. Fiebig) Markus Eickhoff Marius Pape #ai #aiact #ki #augmentation #content #automation #machinelearning

🚀 Künstliche Intelligenz: Chancen und Herausforderungen verstehen! 🤖✨ KI bietet enormes Potenzial, stellt Unternehmen aber auch vor große Herausforderungen! Datenschutz, Ethik und Missbrauchsrisiken müssen ernst genommen werden. Julian Feinauer zeigte in seinem gemeinsamen Vortrag mit Dr. Michael W. Müller in Kirchheim unter Teck, wie mathematische Grundlagen wie die lineare Regression in komplexen KI-Modellen Anwendung finden. Besonders beeindruckend: KI-gestützte Bild- und Videogenerierung! 🖼️🎥 🔍Wichtige Punkte: 🔢 Mathematische Komplexität: Milliarden Parameter machen KI extrem leistungsfähig. 🚀 Vielseitige Anwendungen: Von Automatisierung bis personalisierte Lösungen. 🌅 Energiebedarf: Nachhaltige Energiequellen sind entscheidend. 📍Ethische Verantwortung: Datenschutz und Verhinderung von Missbrauch sind zentral. 🔄 Regulatorische Maßnahmen: Der EU AI Act setzt wichtige Rahmenbedingungen. KI ist nicht nur eine technische Herausforderung, sondern auch eine gesellschaftliche Verantwortung. Bei der Magility diskutieren wir mit allen beteiligten Firmen intensiv über KI und ihre Implikationen. Unternehmen, die KI nicht proaktiv angehen, riskieren, abgehängt zu werden! 📢 Interesse an KI für Ihr Unternehmen? Kontaktieren Sie uns bei der Magility GmbH oder unsere Kollegen der XaiTeck für Unterstützung! ➡ Hier gehts zum vollständigem Artikel: https://lnkd.in/eaQXVP7C #KünstlicheIntelligenz #Innovation #Technologie #Ethik #Datenschutz #chancen #Risiken #Energieverbrauch #KI #AI Nada Lea Welker Dr. René Schellenberger / 谢睿博 Juergen Schenk 辛科 Rouven Haag Daniel Rådström Florian Großschmidt

Der AHA-Moment von Ute ist auch für mich wieder ein schönes Beispiel geworden: Alles ist irgendwie erklärbar! Danke Oliver Wachsmuth, für deinen spannenden Vortrag über den Einsatz der KI im Unternehmen! Lest euch hierzu gerne Utes Learnings durch 👇🏼 #ai #aiact #ki #augmentation #content #automation #machinelearning 

KI ist ein immer wichtigerer Faktor in unseren Geschäftsmodellen - aber wie funktioniert KI überhaupt und was sind Deep Networks? Das hat uns Oliver Wachsmuth in der Aktuellen Stunde ausführlich und prägnant erklärt - Dankeschön! Lest hier Utes Learnings durch 👇🏼 #ai #aiact #ki #augmentation #content #automation #machinelearning 

🚀 Künstliche Intelligenz: Chancen und Herausforderungen verstehen! 🤖✨ KI bietet enormes Potenzial, stellt Unternehmen aber auch vor große Herausforderungen! Datenschutz, Ethik und Missbrauchsrisiken müssen ernst genommen werden. Julian Feinauer zeigte in seinem Vortrag in Kirchheim unter Teck, wie mathematische Grundlagen wie die lineare Regression in komplexen KI-Modellen Anwendung finden. Besonders beeindruckend: KI-gestützte Bild- und Videogenerierung! 🖼️🎥 🔍 Wichtige Punkte: 🔢 Mathematische Komplexität: Milliarden Parameter machen KI extrem leistungsfähig. 🚀 Vielseitige Anwendungen: Von Automatisierung bis personalisierte Lösungen. 🌅Energiebedarf: Nachhaltige Energiequellen sind entscheidend. 📍Ethische Verantwortung: Datenschutz und Verhinderung von Missbrauch sind zentral. 🔄 Regulatorische Maßnahmen: Der EU AI Act setzt wichtige Rahmenbedingungen. KI ist nicht nur eine technische Herausforderung, sondern auch eine gesellschaftliche Verantwortung. Bei der Magility diskutieren wir mit allen beteiligten Firmen intensiv über KI und ihre Implikationen. Unternehmen, die KI nicht proaktiv angehen, riskieren, abgehängt zu werden! 📢 Interesse an KI für Ihr Unternehmen? Kontaktieren Sie uns bei der Magility GmbH oder unsere Kollegen der XaiTeck für Unterstützung! ➡ Hier gehts zum vollständigem Artikel: https://lnkd.in/eaQXVP7C #KünstlicheIntelligenz #Innovation #Technologie #Ethik #Datenschutz #chancen #Risiken #Energieverbrauch #KI #AI

🤖 KI kriegt eine Stimme – Diskussionen der Zukunft Stellen wir uns eine Diskussion vor, bei der nicht nur menschliche Expertinnen und Experten mit ihrem Fachwissen glänzen. Wie wäre es, wenn eine Künstliche Intelligenz im Podium vertreten ist, die als Avatar live auf der Bühne dabei ist und mit den Teilnehmenden interagieren kann? 🤯 Im ersten Moment vielleicht sogar ein befremdlicher Gedanke. Das Szenario dürfte an Science-Fiction-Filme erinnern. Doch es eröffnet auch die Chance, eingefahrene Perspektiven aufzubrechen und durch Generative AI frische, alternative Argumente einzubringen. Wie genau kann das funktionieren? Dieser Frage haben sich unsere msg-Kolleginnen und Kollegen bei der Nordl@nder Digital Konferenz im September 2024 angenommen und die KI auf die Bühne gesetzt. Sie kombinierten dazu drei AI-Cloud-Dienste in der Anwendung Dr. A.I. Futura. Nachdem das Feature auf der Panel Diskussion so gut ankam, wollten wir es in unserem Filmstudio nutzen. Allerdings stellte die Sofware-Integration unsere Kolleginnen und Kollegen von msg Artificial Intelligence vor größere Herausforderungen als zunächst angenommen. Sie entwickelten deshalb gleich eine neue Anwendung als Open Source Software: Studio AI. 🚀   ➡️ Wie sie das gemacht haben, erklärt Ihnen Dr. Ralf S. Engelschall hier: https://lnkd.in/dVtxt3uR #msg #publicsector #ki #sciencefiction #zukunft 

Welche Massnahmen sind nötig, um Missbrauch von KI zu verhindern? 🤖⚖️ Künstliche Intelligenz schafft unglaubliche Chancen und stellt uns gleichzeitig vor große ethische Fragen. Wie stellen wir sicher, dass die Technologie unser Leben verbessert, ohne unsere Werte zu untergraben? Es ist essenziell, klare Richtlinien und wirksame Kontrollen zu etablieren. Welche Ansätze haltet ihr für sinnvoll, um die verantwortungsvolle Nutzung der KI zu gewährleisten? Diskutiert mit uns und teilt eure Perspektiven! 💡 #KünstlicheIntelligenz #EthikInTech #VerantwortungsvolleKI

Das Wichtigste zu einfach erklärt - Künstliche Intelligenz (KI) spielt eine zunehmende Rolle in unserem Alltag. - Vertrauenswürdige KI erfordert Transparenz, Sicherheit und Ethik. - Einfach erklärt: KI soll menschliches Denken und Verhalten nachahmen. - Regierungen und Unternehmen investieren in KI-Forschung und -Anwendung.