Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant
Spanien setzt AI Act zuerst um: Hohe Strafen für nicht gekennzeichnete KI-Bilder geplant
Interessanter Weise wären, vorausgesetzt das wird auch konsequent umgesetzt, einer der Hauptprofiteure die KI-Anbieter selbst. Selbst-Kannibalismus, das heißt das "Vergiften" der Trainingsdaten durch selbst generierte Daten, ist längst ein riesiges Problem beim Training besserer Modelle, da ein immer größerer Teil der Datensätze aus dem Internet selbst KI generiert ist. Wären diese klar gekennzeichnet, wäre es ein leichtes die aus den Datensätzen zu filtern und auf "sauberen" Daten zu trainieren.
Verbietet das Ding einfach alles als KI generiert zu kennzeichnen?
Das ist ein populäres Missverständnis. Es gibt keinen grundlegenden Unterschied zwischen Daten, die von KI oder Menschen gemacht sind. Deswegen kann es auch keine zuverlässigen KI-Detektoren geben.
Ich verstehe nicht genau was du damit sagen willst, bzw. was das Missverständnis sein soll?
Training artificial intelligence (AI) models on AI-generated text quickly leads to the models churning out nonsense, a study has found. This cannibalistic phenomenon, termed model collapse, could halt the improvement of large language models (LLMs) as they run out of human-derived training data and as increasing amounts of AI-generated text pervade the Internet.
Das Problem entsteht ja schon im Grundprinzip von GANs. Die eine Hälfte wird darauf trainiert echte und generierte Daten zu unterscheiden. Wenn aber in den Referenzdaten immer mehr "falsche", also generierte Daten auftauchen, kann das Ganze schon vom Prinzip her nicht funktionieren.
Ich glaube, die Kennzeichnungspflicht gilt nicht für das Weiterverteilen, ansonsten müsste Lemmy wohl alle Bilder als potenziell KI-generiert kennzeichnen. Mal sehen, wie schlimm das wird.
Das ist ein guter Hinweis. Der britische Digital Services Act zeigt, dass man da gerade bei kleineren Webseiten sehr schnell sehr viel kaputt machen kann.