Schade! KI-Software zur Erkennung von Plagiaten beschuldigt Studenten immer wieder fälschlicherweise des Betrugs

Webmaster Home (ChinaZ.com) 7. Juni News: Um zu verhindern, dass Studenten KI zum Verfassen von Arbeiten verwenden, haben einige Hochschulen und Universitäten KI-Software zur Plagiatserkennung eingeführt, aber für einige Studenten kann dies ein Albtraum sein. Weil ein Schüler fälschlicherweise beschuldigt wurde, künstliche Intelligenz zum Betrügen eines Aufsatzes eingesetzt zu haben, und dann gezwungen wurde, seinen Namen während einer schulischen Untersuchung zu verteidigen.

Wie der Rolling Stone berichtet, wurde ein Aufsatz von Louise Stivers, einer Absolventin der University of California Davis, von der Plagiatsprüfsoftware Turnitin markiert.

Ohne Unterstützung von außen war Stivers gezwungen, sich zu verteidigen und zu beweisen, dass sie zum Verfassen ihrer Arbeit keinen KI-Chatbot verwendet hatte, was den Druck, ihr letztes Semester abzuschließen, noch verstärkte. Sogar ihre Noten verschlechterten sich dadurch, argumentierte sie.

Dieser Vorfall verdeutlicht die erheblichen Mängel von Tools wie Turnitin und wie sie zunehmend dazu verwendet werden, Schülern fälschlicherweise vorzuwerfen, künstliche Intelligenz zum Betrügen im Unterricht einzusetzen.

Stivers erfuhr später, dass sie nicht einmal die einzige UC Davis-Studentin war, die aufgrund einer KI-basierten Erkennungssoftware zu Unrecht des Betrugs beschuldigt wurde. Nur wenige Tage bevor er Anfang des Jahres wegen akademischer Integrität unter die Lupe genommen wurde, veröffentlichte USA Today einen ähnlichen Bericht, in dem der Geschichtsstudent William Quarterman sagte, sein Professor habe das KI-Erkennungstool GPTZero verwendet. Später bestand er den Kurs nicht und wurde fälschlicherweise des Plagiats beschuldigt. Quartermaine musste daher den gleichen Prozess der Selbstverständlichkeit durchlaufen wie Stivers.

Die Erkennung durch Tools wie Turnitin und GPTZero scheint ungenau zu sein. Als einige Benutzer diese beiden Tools testeten, stellten sie fest, dass GPTZero bei weitem nicht dem Standard entsprach. Selbst die eigene Erkennungsanwendung des ChatGPT-Herstellers OpenAI konnte nicht zuverlässig zwischen von Menschen geschriebenem Text und KI-generiertem Text unterscheiden.

Schließlich gab die Schulleitung gegenüber Stivers zu, dass sich das KI-Erkennungstool von Turnitin im Betatest befinde und einen „frühen Zugriff“ darauf habe. Das Softwareunternehmen gab auf seiner Website zu, dass es trotz einer angeblichen Genauigkeitsrate von 98 % „falsch positive Ergebnisse“ gegeben habe.

Laut Stivers muss sich die Schule noch entschuldigen. Kurz gesagt, sie war gezwungen, die Verantwortung für die Fehler der Software zu übernehmen – etwas, das sich auf ihre Karriere auswirken könnte. Das ist eine besorgniserregende Realität. Da Akademiker äußerst fehlerhafte KI-Anwendungen zur Plagiatserkennung verwenden, könnten in naher Zukunft mehr Studenten zu Unrecht beschuldigt werden, was verheerende Folgen für sie haben könnte.

Das obige ist der detaillierte Inhalt vonSchade! KI-Software zur Erkennung von Plagiaten beschuldigt Studenten immer wieder fälschlicherweise des Betrugs. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!