Verantwortungsvolle KI für die IT sicherstellen: Ein Gespräch mit Microsoft

In unserem Webinar "How to Ensure AI for IT is Responsible, Explainable, and Trustworthy" (Wie man sicherstellt, dass KI für die IT verantwortungsvoll, erklärbar und vertrauenswürdig ist) diskutierten Jim Brennan, Microsoft Director, Azure Data & AI, und Dan Parshall, Ph.D., Principal Data Scientist bei Lakeside, über verantwortungsvolle KI im Zusammenhang mit der zunehmenden Integration von KI für die Unternehmens-IT. Mit der zunehmenden Verbreitung von KI-gestützten Tools wie der Lakeside SysTrack Plattform müssen sich IT-Experten nicht nur an diese technologischen Veränderungen anpassen, sondern auch sicherstellen, dass ihre Unternehmen den Wert von KI voll ausschöpfen und gleichzeitig kritische Aspekte wie Datenschutz, Sicherheit und Compliance berücksichtigen können.

Die Rolle von Dateneigentum, Datenschutz und Sicherheit bei verantwortungsvoller KI

Es versteht sich von selbst, dass es Daten gab, bevor es KI gab. Jede Menge davon. "Einer der Gründe dafür, dass KI scheinbar aus dem Nichts heraus explodiert ist, hängt mit der Fülle der Daten zusammen, die jetzt dank der Cloud zur Verfügung stehen", sagt Jim Brennan. "Man braucht eine Menge hochwertiger Daten, um mit KI gute Ergebnisse zu erzielen. Die erste Geschäftsregel bei der Festlegung einer KI-Strategie ist daher die Festlegung einer klaren und transparenten Datenstrategie. Wem gehören die Daten? Wie können Sie sie sichern? Welche Vorkehrungen gibt es zum Schutz des Datenschutzes? Für Software-as-a-Service (SaaS)-Unternehmen sind diese Fragen sowohl für Ihr Unternehmen als auch für Ihre Kunden von Bedeutung.

Mike Schumacher, der Gründer von Lakeside , sagte: "Es gibt ein Sprichwort, das besagt, dass Daten das neue Öl sind, aber für mich sind Daten kein Öl, sondern Diamanten. Reichhaltige Daten mit vielen Facetten sind das, was man braucht, um die Art von KI-Modellen zu entwickeln, die Informationen liefern, denen man vertrauen kann. In der Tat "haben Daten einen erheblichen Wert für KI", betonte Brennan, "und Tatsache ist, dass kein Unternehmen diese Daten einfach mit einem KI-Dienst teilen wird, wenn es nicht sicher sein kann, dass es Eigentümer der Daten ist, wie sie verwendet werden, wie sie gesichert werden und so weiter." Dieser Kontext liegt sowohl Microsofts eigenen Richtlinien für verantwortungsvolle KI als auch Lakesides Erklärung zur verantwortungsvollen Nutzung von KI zugrunde. 

Trotz dieser Transparenz von Cloud-Service-Anbietern und SaaS-Unternehmen, die in KI investieren, weist Dan Parshall darauf hin, dass viele Unternehmen nach wie vor vorsichtig sind, was die Weitergabe ihrer Daten angeht. Deshalb ist Parshall auf einer Mission, um allgemeine Missverständnisse über das "Teilen von Daten" zu entlarven. "Eine große Sache, die ich versuche, bewusst zu machen, ist, dass es möglich ist, Erkenntnisse zu teilen, ohne tatsächliche Daten zu teilen. Er erklärte, dass es durchaus möglich ist (mit den richtigen Methoden), große Mengen an Erkenntnissen aus Daten zu gewinnen und gleichzeitig strenge Datenschutzprotokolle einzuhalten.

"Wenn wir also sagen, Ihre Daten sind Ihre Daten sind Ihre Daten", sagte Brennan, "dann meinen wir damit, dass wir ein Kanal für die Verarbeitung dieser Daten durch die Azure-KI-Dienste im Auftrag von Lakeside und seinen Endkunden sind. Das bedeutet, dass wir niemals Rechte an Ihren Daten beanspruchen."

Die Bedeutung qualitativ hochwertiger Daten für verantwortungsvolle KI 

Ein weiterer wichtiger Diskussionspunkt des Webinars war die Beziehung zwischen der Datenqualität und dem KI-Modell. Während KI-Modelle mit riesigen Datenmengen gedeihen, sind mehr Daten nicht immer besser. Wie Parshall betonte: "Mehr Daten führen nicht unbedingt zu besseren KI-Modellen, denn Garbage in bedeutet Garbage out." Die Datenqualität ist daher entscheidend, um sicherzustellen, dass die KI relevante, erklärbare und vertrauenswürdige Ergebnisse liefern kann.  

Daten von schlechter Qualität können die Ergebnisse verfälschen und selbst die ausgefeiltesten Modelle unwirksam machen. Im Gegensatz dazu können hochwertige und gut strukturierte Datensätze die Modellgenauigkeit und -leistung verbessern. So kann beispielsweise ein kleineres, spezialisiertes Sprachmodell, das ausschließlich auf spezifischen, fokussierten Daten trainiert wurde, zuverlässigere Ergebnisse liefern als Modelle, die auf den breiteren, verrauschten Daten im Internet trainiert wurden.

In Anbetracht der zugrunde liegenden Beziehung zwischen Datenqualität und KI-Qualität ist die Pflege sauberer, relevanter Daten von entscheidender Bedeutung, insbesondere in Unternehmensumgebungen. Für IT-Führungskräfte sind Investitionen in Data-Governance-Praktiken und die Pflege hochwertiger Datenbestände entscheidende Schritte für den Erfolg von KI-Initiativen.

Verantwortungsvolle KI und die Wichtigkeit ethischer Praktiken

Das Webinar befasste sich auch mit verantwortungsvollen KI-Praktiken, die sicherstellen, dass die Modelle nicht zu restriktiv werden oder verzerrte Ergebnisse liefern. Eine Methode ist die Einführung kontrollierter Zufälligkeit in Entscheidungsmodelle, wie sie beispielsweise bei der Erkennung von Kreditkartenbetrug oder bei Einstellungsprozessen verwendet werden. Dieser Ansatz ermöglicht es IT-Teams, ein gewisses Maß an Flexibilität beizubehalten und Modelle auf der Grundlage realer Ergebnisse kontinuierlich zu verfeinern, wodurch das Risiko von Verzerrungen oder einer zu starren Automatisierung verringert wird.

Bei der Betrugsermittlung beispielsweise kann das Zulassen gelegentlicher Transaktionen, die das Modell als verdächtig einstuft, eine Lernmöglichkeit bieten, ohne die Kundenerfahrung übermäßig zu beeinträchtigen. Ähnlich verhält es sich bei Einstellungsprozessen: Durch die Einbeziehung von Zufälligkeiten wird sichergestellt, dass potenziell geeignete Kandidaten nicht vorzeitig aussortiert werden, so dass Unternehmen die Möglichkeit haben, ihre Modelle neu zu bewerten und zu verbessern.

Die sich entwickelnde Rolle von IT-Fachleuten in einer KI-zentrierten Welt 

Da KI die Unternehmens-IT immer weiter umgestaltet, entwickeln sich auch die Anforderungen an IT-Fachleute weiter. IT-Führungskräfte sind nicht mehr nur auf die Verwaltung von Hardware oder die Fehlerbehebung bei Systemen beschränkt. Von ihnen wird nun erwartet, dass sie sich mit den Grundsätzen der Datenwissenschaft, KI-Tools und fortschrittlicher Analytik auskennen. Zwar muss nicht jeder in der IT ein Datenwissenschaftler werden, aber es wird zunehmend erwartet, dass IT-Teams verstehen, wie KI-Modelle funktionieren, wie man Daten für diese Modelle verwaltet und wie man KI-gestützte Erkenntnisse zur Lösung von geschäftlichen Herausforderungen einsetzt.

Dieser Wandel bietet IT-Fachleuten, die bereit sind, lebenslanges Lernen zu betreiben, eine große Chance. So werden beispielsweise Tools wie Power BI, die traditionell als Business-Intelligence-Plattformen betrachtet wurden, nun zunehmend mit KI-Funktionen integriert. Sowohl Brennan als auch Parshall wiesen darauf hin, dass IT-Fachleute, die die Kluft zwischen dem traditionellen IT-Betrieb und der modernen Datenwissenschaft überbrücken können, eine entscheidende Rolle bei der Führung ihrer Unternehmen durch Initiativen zur digitalen Transformation spielen werden.

Verantwortungsvolle KI für die Zukunft

Die Integration von KI in die Unternehmens-IT ist mehr als nur eine technische Veränderung - es ist ein grundlegender Wandel in der Art und Weise, wie Unternehmen mit Daten, Datenschutz und Entscheidungsfindung umgehen. Für IT-Führungskräfte liegen die wichtigsten Erkenntnisse aus dieser Diskussion auf der Hand: Dateneigentum und -sicherheit müssen Priorität haben, sie müssen die Kompromisse zwischen Datenqualität und -quantität verstehen und die sich entwickelnde Rolle der IT als datengesteuert und KI-gestützt annehmen. Durch die Übernahme dieser Grundsätze können Unternehmen die Komplexität der KI-Implementierung bewältigen und gleichzeitig eine verantwortungsvolle und effektive Nutzung dieser transformativen Technologien sicherstellen.