Verantwortungsvollen KI-Einsatz praktizieren: Vier Prinzipien
Künstliche Intelligenz (KI) verändert jede Branche, wobei mehr als ein Drittel der Unternehmen KI mittlerweile in großem Umfang oder in begrenztem Umfang produzieren. Aber wie jede Technologie birgt KI erhebliche wirtschaftliche und soziale Risiken, wie die Verbreitung unethischer Voreingenommenheit, die Verwässerung der Verantwortlichkeit und Verletzungen des Datenschutzes.
Um diese Risiken zu vermeiden und KI verantwortungsvoll einzusetzen, haben sowohl die Regulierungspolitik als auch die Industrie die Verantwortung, Prozesse und Standards für Praktiker und Benutzer zu entwickeln, die mit dieser Technologie arbeiten. Zu diesem Zweck hat das Team des Ethical AI and ML Institute Responsible AI Principles zusammengestellt, um Praktikern die Möglichkeit zu geben, sicherzustellen, dass diese Prinzipien durch Design in die Infrastruktur und Prozesse rund um Produktions-KI und maschinelle Lernsysteme eingebettet werden.
In diesem Artikel werden vier der acht Prinzipien aufgeschlüsselt: Bias-Bewertung, Erklärbarkeit, künstliche Verbesserung und Wiederholbarkeit.
Bias Assessment
In gewissem Sinne sind KI-Modelle von Natur aus voreingenommen, weil sie darauf ausgelegt sind, relevante Antworten unterschiedlich zu behandeln. Denn Intelligenz ist im Kern die Fähigkeit, Muster, die wir in der Welt sehen, zu erkennen und darauf zu reagieren. Bei der Entwicklung von KI-Modellen versuchen wir, diese Fähigkeit genau nachzubilden und ermutigen die KI, Muster in den Daten zu entdecken, in die sie eingespeist wird, und entsprechende Vorurteile zu entwickeln. Beispielsweise wird ein Modell, das Daten zur Proteinchemie untersucht, eine inhärente Tendenz zu Proteinen aufweisen, deren Strukturen sich auf eine bestimmte Weise falten können, und so herausfinden, welche Proteine in relevanten Anwendungsfällen in der Medizin nützlich sind.
Deshalb sollten wir vorsichtig sein, wenn wir uns gegen KI-Voreingenommenheit aussprechen. Wenn es um das Thema Voreingenommenheit in der KI geht, beziehen wir uns im Allgemeinen auf Voreingenommenheit, die eigentlich unerwünscht oder unvernünftig ist, wie beispielsweise Voreingenommenheit, die auf einem geschützten Merkmal wie Rasse, Geschlecht oder nationaler Herkunft basiert.
Aber warum erzeugen KI-Modelle unethische Vorurteile? Die Antwort hängt von den Daten ab, in die sie eingespeist werden. Modelle spiegeln letztendlich die Verzerrungen wider, die in den Trainingsdaten vorhanden sind, die sie vor der Bereitstellung verwendet haben. Wenn die Trainingsdaten also nicht repräsentativ sind oder bereits vorhandene Verzerrungen enthalten, wird das resultierende Modell diese letztendlich widerspiegeln. Wie man in der Informatik sagt: „Müll rein, Müll raus.“
Teams müssen außerdem eine Reihe von Prozessen und Verfahren erstellen, um alle unerwünschten Verzerrungen in Bezug auf die Wirksamkeit der KI-Trainingsdaten, das Training und die Bewertung des Modells selbst sowie den Betriebslebenszyklus des Modells selbst ordnungsgemäß zu identifizieren. Wenn Sie KI einsetzen, ist das eXplainable AI-Framework des Ethical AI and Machine Learning Institute ein gutes Beispiel, auf das wir im Folgenden ausführlicher eingehen.
Erklärbarkeit
Um sicherzustellen, dass das KI-Modell seinen Zweck erfüllt, ist auch die Beteiligung von Experten in relevanten Bereichen wichtig. Diese Personen können Teams dabei helfen, sicherzustellen, dass KI-Modelle die richtigen Leistungsmetriken verwenden und nicht nur Statistiken und genauigkeitsgesteuerte Leistungsmetriken. Es ist hervorzuheben, dass zu den Domänenexperten nicht nur technische Experten, sondern auch Experten in den für den Anwendungsfall relevanten Sozial- und Geisteswissenschaften gehören.
Damit es jedoch effektiv ist, muss auch sichergestellt werden, dass die Vorhersagen des Modells von relevanten Fachexperten interpretiert werden können. Fortgeschrittene KI-Modelle verwenden jedoch häufig hochmoderne Deep-Learning-Techniken, die möglicherweise nicht einfach erklären, warum eine bestimmte Vorhersage getroffen wird.
Um diese Schwierigkeit zu überwinden, neigen Unternehmen dazu, die Interpretierbarkeit des maschinellen Lernens zu erreichen, indem sie eine Vielzahl von Techniken und Tools nutzen, mit denen sich die Vorhersagen von KI-Modellen entschlüsseln lassen.
Nach der Interpretierbarkeit kommt die Operationalisierung von Modellen der künstlichen Intelligenz. Dies ist die Zeit für Untersuchungen und Überwachung durch relevante Interessengruppen. Der Lebenszyklus eines solchen KI-Modells beginnt erst, nachdem es ordnungsgemäß in der Produktion eingesetzt wurde. Sobald ein Modell betriebsbereit ist, kommt es nur noch zu Leistungseinbußen aufgrund von äußerem Druck, unabhängig davon, ob es sich um konzeptionelle Abweichungen oder Änderungen in der Umgebung handelt, in der das Modell ausgeführt wird.
Human Augmentation
Beim Einsatz von KI ist es wichtig, zunächst die aktuellen Anforderungen des ursprünglichen nicht automatisierten Prozesses zu bewerten, einschließlich der Darstellung des Risikos nachteiliger Ergebnisse. Dies ermöglicht ein tieferes Verständnis des Prozesses und hilft dabei, Bereiche zu identifizieren, in denen möglicherweise menschliches Eingreifen erforderlich ist, um das Risiko zu verringern.
Zum Beispiel hat eine KI, die Profisportlern Essenspläne empfiehlt, weitaus weniger Risikofaktoren mit großer Auswirkung als ein KI-Modell, das den Back-End-Kreditgenehmigungsprozess für eine Bank automatisiert, was darauf hindeutet, dass menschliches Eingreifen für Ersteres weniger notwendig sein wird als für Letzteres. Wenn Teams potenzielle Risikopunkte in ihren KI-Workflows identifizieren, können sie die Implementierung eines „Human-Machine-Loop“-Überprüfungsprozesses (HITL) in Betracht ziehen.
HITL stellt sicher, dass es nach der Automatisierung des Prozesses immer noch verschiedene Berührungspunkte gibt, an denen menschliches Eingreifen zur Überprüfung der Ergebnisse erforderlich ist, wodurch es einfacher wird, bei Bedarf Korrekturen vorzunehmen oder Entscheidungen rückgängig zu machen. Dieser Prozess kann ein Team aus technischen Experten und Branchenexperten umfassen (z. B. einen Versicherer für einen Bankkredit oder einen Ernährungsberater für die Essensplanung), um die vom KI-Modell getroffenen Entscheidungen zu bewerten und sicherzustellen, dass sie den Best Practices entsprechen.
Wiederholbarkeit
Reproduzierbarkeit ist die Fähigkeit eines Teams, einen Algorithmus wiederholt auf Datenpunkte auszuführen und jedes Mal die gleichen Ergebnisse zu erzielen. Dies ist eine Kernkomponente verantwortungsvoller KI, da sie von entscheidender Bedeutung ist, um sicherzustellen, dass die vorherigen Vorhersagen des Modells erneut veröffentlicht werden, wenn es zu einem späteren Zeitpunkt erneut ausgeführt wird.
Natürlich ist Reproduzierbarkeit schwierig zu erreichen, hauptsächlich aufgrund der inhärenten Schwierigkeiten künstlicher Intelligenzsysteme. Dies liegt daran, dass die Ausgabe eines KI-Modells abhängig von verschiedenen Kontextumständen variieren kann, wie zum Beispiel:
- Der Code, der zur Berechnung der KI-Interferenz verwendet wird
- Die aus den verwendeten Daten gelernten Gewichte
- Die Umgebung, in der der Code ausgeführt wird, ist die Infrastruktur und die Konfiguration
- der für das Modell bereitgestellten Eingaben und Eingabestrukturen
ein komplexes Problem, insbesondere wenn ein KI-Modell in großem Maßstab bereitgestellt wird und unzählige andere Tools und Frameworks berücksichtigt werden müssen. Dazu müssen die Teams robuste Praktiken entwickeln, um die oben genannten Situationen zu kontrollieren, und Tools implementieren, die zur Verbesserung der Reproduzierbarkeit beitragen.
Wichtige Erkenntnisse
Mit den oben genannten allgemeinen Grundsätzen können Branchen sicherstellen, dass Best Practices für den verantwortungsvollen Einsatz von KI befolgt werden. Die Übernahme solcher Grundsätze ist von entscheidender Bedeutung, um sicherzustellen, dass die KI ihr volles wirtschaftliches Potenzial ausschöpft und gefährdete Gruppen nicht entmachtet, unethische Vorurteile verstärkt oder die Rechenschaftspflicht untergräbt. Stattdessen kann es sich um die Technologie handeln, die wir nutzen können, um Wachstum, Produktivität, Effizienz, Innovation und das Wohl aller voranzutreiben.
Das obige ist der detaillierte Inhalt vonVerantwortungsvollen KI-Einsatz praktizieren: Vier Prinzipien. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heiße KI -Werkzeuge

Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Undress AI Tool
Ausziehbilder kostenlos

Clothoff.io
KI-Kleiderentferner

AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.

Heißer Artikel

Heiße Werkzeuge

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen



Diese Seite berichtete am 27. Juni, dass Jianying eine von FaceMeng Technology, einer Tochtergesellschaft von ByteDance, entwickelte Videobearbeitungssoftware ist, die auf der Douyin-Plattform basiert und grundsätzlich kurze Videoinhalte für Benutzer der Plattform produziert Windows, MacOS und andere Betriebssysteme. Jianying kündigte offiziell die Aktualisierung seines Mitgliedschaftssystems an und führte ein neues SVIP ein, das eine Vielzahl von KI-Schwarztechnologien umfasst, wie z. B. intelligente Übersetzung, intelligente Hervorhebung, intelligente Verpackung, digitale menschliche Synthese usw. Preislich beträgt die monatliche Gebühr für das Clipping von SVIP 79 Yuan, die Jahresgebühr 599 Yuan (Hinweis auf dieser Website: entspricht 49,9 Yuan pro Monat), das fortlaufende Monatsabonnement beträgt 59 Yuan pro Monat und das fortlaufende Jahresabonnement beträgt 499 Yuan pro Jahr (entspricht 41,6 Yuan pro Monat). Darüber hinaus erklärte der Cut-Beamte auch, dass diejenigen, die den ursprünglichen VIP abonniert haben, das Benutzererlebnis verbessern sollen

Verbessern Sie die Produktivität, Effizienz und Genauigkeit der Entwickler, indem Sie eine abrufgestützte Generierung und ein semantisches Gedächtnis in KI-Codierungsassistenten integrieren. Übersetzt aus EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG, Autor JanakiramMSV. Obwohl grundlegende KI-Programmierassistenten natürlich hilfreich sind, können sie oft nicht die relevantesten und korrektesten Codevorschläge liefern, da sie auf einem allgemeinen Verständnis der Softwaresprache und den gängigsten Mustern beim Schreiben von Software basieren. Der von diesen Coding-Assistenten generierte Code eignet sich zur Lösung der von ihnen zu lösenden Probleme, entspricht jedoch häufig nicht den Coding-Standards, -Konventionen und -Stilen der einzelnen Teams. Dabei entstehen häufig Vorschläge, die geändert oder verfeinert werden müssen, damit der Code in die Anwendung übernommen wird

Um mehr über AIGC zu erfahren, besuchen Sie bitte: 51CTOAI.x Community https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou unterscheidet sich von der traditionellen Fragendatenbank, die überall im Internet zu sehen ist erfordert einen Blick über den Tellerrand hinaus. Large Language Models (LLMs) gewinnen in den Bereichen Datenwissenschaft, generative künstliche Intelligenz (GenAI) und künstliche Intelligenz zunehmend an Bedeutung. Diese komplexen Algorithmen verbessern die menschlichen Fähigkeiten, treiben Effizienz und Innovation in vielen Branchen voran und werden zum Schlüssel für Unternehmen, um wettbewerbsfähig zu bleiben. LLM hat ein breites Anwendungsspektrum und kann in Bereichen wie der Verarbeitung natürlicher Sprache, der Textgenerierung, der Spracherkennung und Empfehlungssystemen eingesetzt werden. Durch das Lernen aus großen Datenmengen ist LLM in der Lage, Text zu generieren

Large Language Models (LLMs) werden auf riesigen Textdatenbanken trainiert und erwerben dort große Mengen an realem Wissen. Dieses Wissen wird in ihre Parameter eingebettet und kann dann bei Bedarf genutzt werden. Das Wissen über diese Modelle wird am Ende der Ausbildung „verdinglicht“. Am Ende des Vortrainings hört das Modell tatsächlich auf zu lernen. Richten Sie das Modell aus oder verfeinern Sie es, um zu erfahren, wie Sie dieses Wissen nutzen und natürlicher auf Benutzerfragen reagieren können. Aber manchmal reicht Modellwissen nicht aus, und obwohl das Modell über RAG auf externe Inhalte zugreifen kann, wird es als vorteilhaft angesehen, das Modell durch Feinabstimmung an neue Domänen anzupassen. Diese Feinabstimmung erfolgt mithilfe von Eingaben menschlicher Annotatoren oder anderer LLM-Kreationen, wobei das Modell auf zusätzliches Wissen aus der realen Welt trifft und dieses integriert

Herausgeber | Der Frage-Antwort-Datensatz (QA) von ScienceAI spielt eine entscheidende Rolle bei der Förderung der Forschung zur Verarbeitung natürlicher Sprache (NLP). Hochwertige QS-Datensätze können nicht nur zur Feinabstimmung von Modellen verwendet werden, sondern auch effektiv die Fähigkeiten großer Sprachmodelle (LLMs) bewerten, insbesondere die Fähigkeit, wissenschaftliche Erkenntnisse zu verstehen und zu begründen. Obwohl es derzeit viele wissenschaftliche QS-Datensätze aus den Bereichen Medizin, Chemie, Biologie und anderen Bereichen gibt, weisen diese Datensätze immer noch einige Mängel auf. Erstens ist das Datenformular relativ einfach, die meisten davon sind Multiple-Choice-Fragen. Sie sind leicht auszuwerten, schränken jedoch den Antwortauswahlbereich des Modells ein und können die Fähigkeit des Modells zur Beantwortung wissenschaftlicher Fragen nicht vollständig testen. Im Gegensatz dazu offene Fragen und Antworten

Maschinelles Lernen ist ein wichtiger Zweig der künstlichen Intelligenz, der Computern die Möglichkeit gibt, aus Daten zu lernen und ihre Fähigkeiten zu verbessern, ohne explizit programmiert zu werden. Maschinelles Lernen hat ein breites Anwendungsspektrum in verschiedenen Bereichen, von der Bilderkennung und der Verarbeitung natürlicher Sprache bis hin zu Empfehlungssystemen und Betrugserkennung, und es verändert unsere Lebensweise. Im Bereich des maschinellen Lernens gibt es viele verschiedene Methoden und Theorien, von denen die fünf einflussreichsten Methoden als „Fünf Schulen des maschinellen Lernens“ bezeichnet werden. Die fünf Hauptschulen sind die symbolische Schule, die konnektionistische Schule, die evolutionäre Schule, die Bayes'sche Schule und die Analogieschule. 1. Der Symbolismus, auch Symbolismus genannt, betont die Verwendung von Symbolen zum logischen Denken und zum Ausdruck von Wissen. Diese Denkrichtung glaubt, dass Lernen ein Prozess der umgekehrten Schlussfolgerung durch das Vorhandene ist

Herausgeber |. KX Im Bereich der Arzneimittelforschung und -entwicklung ist die genaue und effektive Vorhersage der Bindungsaffinität von Proteinen und Liganden für das Arzneimittelscreening und die Arzneimitteloptimierung von entscheidender Bedeutung. Aktuelle Studien berücksichtigen jedoch nicht die wichtige Rolle molekularer Oberflächeninformationen bei Protein-Ligand-Wechselwirkungen. Auf dieser Grundlage schlugen Forscher der Universität Xiamen ein neuartiges Framework zur multimodalen Merkmalsextraktion (MFE) vor, das erstmals Informationen über Proteinoberfläche, 3D-Struktur und -Sequenz kombiniert und einen Kreuzaufmerksamkeitsmechanismus verwendet, um verschiedene Modalitäten zu vergleichen Ausrichtung. Experimentelle Ergebnisse zeigen, dass diese Methode bei der Vorhersage von Protein-Ligand-Bindungsaffinitäten Spitzenleistungen erbringt. Darüber hinaus belegen Ablationsstudien die Wirksamkeit und Notwendigkeit der Proteinoberflächeninformation und der multimodalen Merkmalsausrichtung innerhalb dieses Rahmens. Verwandte Forschungen beginnen mit „S

Laut Nachrichten dieser Website vom 5. Juli veröffentlichte GlobalFoundries am 1. Juli dieses Jahres eine Pressemitteilung, in der die Übernahme der Power-Galliumnitrid (GaN)-Technologie und des Portfolios an geistigem Eigentum von Tagore Technology angekündigt wurde, in der Hoffnung, seinen Marktanteil in den Bereichen Automobile und Internet auszubauen Anwendungsbereiche für Rechenzentren mit künstlicher Intelligenz, um höhere Effizienz und bessere Leistung zu erforschen. Da sich Technologien wie generative künstliche Intelligenz (GenerativeAI) in der digitalen Welt weiterentwickeln, ist Galliumnitrid (GaN) zu einer Schlüssellösung für nachhaltiges und effizientes Energiemanagement, insbesondere in Rechenzentren, geworden. Auf dieser Website wurde die offizielle Ankündigung zitiert, dass sich das Ingenieurteam von Tagore Technology im Rahmen dieser Übernahme mit GF zusammenschließen wird, um die Galliumnitrid-Technologie weiterzuentwickeln. G
