KI-Inhaltsüberprüfung, die acht Sprachen versteht und den Kontext versteht, ist da! Microsoft bringt neues Produkt auf den Markt: Kann Text und Bilder erkennen

Am 23. Mai Ortszeit startete Microsoft ein auf künstlicher Intelligenz (KI) basierendes Inhaltsüberprüfungsdienstprodukt – Azure AI Content Safety (Azure AI Content Security Service), mit dem Ziel, eine sicherere Netzwerkumgebung zu schaffen. Dieses Produkt bietet eine Reihe trainierter KI-Modelle, die negative Inhalte im Zusammenhang mit Vorurteilen, Hass, Gewalt usw. in Bildern oder Texten erkennen können.

Berichten zufolge wird dieses Produkt in den Azure OpenAI-Dienst integriert und für Drittentwickler zugänglich sein. Es versteht sich, dass der Azure OpenAI-Dienst ein von Microsoft verwaltetes unternehmenszentriertes Dienstprodukt ist, das es Unternehmen ermöglichen soll, auf die Technologie des KI-Labors OpenAI zuzugreifen und Governance-Funktionen hinzuzufügen. Erwähnenswert ist, dass der Azure AI-Inhaltssicherheitsdienst nicht nur im Azure OpenAI-Dienst verwendet wird, sondern auch auf Nicht-KI-Plattformen wie Spieleplattformen und Online-Communities angewendet werden kann.

↑ ​​Informationstabelle

Es wird berichtet, dass der Azure AI-Inhaltssicherheitsdienst acht Sprachen „beherrscht“, darunter Englisch, Spanisch, Deutsch, Französisch, Chinesisch, Japanisch, Portugiesisch und Italienisch. Das heißt, es kann Bilder oder Texte in diesen acht Sprachen verstehen und erkennen und dem gekennzeichneten Inhalt einen Schweregrad zuweisen, der menschlichen Prüfern anzeigt, bei welchen Inhalten Maßnahmen erforderlich sind.

Darüber hinaus kann dieses Produkt laut einem Microsoft-Sprecher im Vergleich zu früheren Produkten desselben Typs Textinhalte und kulturellen Hintergrund besser verstehen. „Der Sprecher fügte hinzu: „Wir haben ein Team von Sprach- und Fairness-Experten, die sich für die Entwicklung von Richtlinien einsetzen, die Kultur, Sprache und Kontext berücksichtigen. Der Bericht wies auch darauf hin, dass Microsoft erkennt, dass die aktuelle KI nicht perfekt ist, und hofft, dies zu tun.“ . Menschen verbessern die KI, indem sie sie nutzen

.

Der Bericht wies darauf hin, dass der Azure AI-Inhaltssicherheitsdienst, wie die Probleme, mit denen alle KI-Überprüfungsprogramme konfrontiert sind, letztendlich auf menschliche Prüfer angewiesen ist, um Daten und Inhalte zu markieren, was bedeutet, dass seine Fairness letztendlich von Menschen abhängt. Berichten zufolge kann eine voreingenommene manuelle Verarbeitung von Daten und Inhalten zu Kopfschmerzen führen. Im Jahr 2015 kam es zu Kontroversen, als Berichte auftauchten, dass die Bilderkennungssoftware für künstliche Intelligenz von Google farbige Menschen fälschlicherweise als Orang-Utans bezeichnet hatte. US-Medien sagten, dass die heutigen Technologiegiganten acht Jahre später immer noch Angst haben, „die gleichen Fehler noch einmal zu machen“.

Tatsächlich war der Umgang mit den Risiken, die KI mit sich bringt, schon immer ein heißes Thema in der Öffentlichkeit und im Technologiekreis. Am 22. dieses Monats kursierte im Internet ein gefälschtes Bild einer „Explosion in der Nähe des Pentagons“, das vermutlich von der KI synthetisiert worden war und eine Zeit lang für Panik sorgte. Ein Sprecher des US-Verteidigungsministeriums widerlegte das Gerücht eindringlich. Anschließend stellte eine US-Medienanalyse fest, dass das Bild alle durch KI erzeugten Merkmale aufwies. Anfang dieses Monats forderte OpenAI-CEO Sam Altman während einer Anhörung des Unterausschusses des US-Senats eine staatliche Regulierung der künstlichen Intelligenz (KI). Er betonte, dass, sobald ein Fehler in dieser Technologie auftritt, die Folgen sehr schwerwiegend sein werden und der Welt großen Schaden zufügen können.

Red Star News-Reporter Li Jinrui

Herausgeber He Xianfeng Herausgeber Li Binbin

Das obige ist der detaillierte Inhalt vonKI-Inhaltsüberprüfung, die acht Sprachen versteht und den Kontext versteht, ist da! Microsoft bringt neues Produkt auf den Markt: Kann Text und Bilder erkennen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!