Quelle: pixelshot
Mit der Digitalisierung sind jedoch auch Risiken verbunden. Durch eine irreführende oder manipulative Gestaltung von Webseiten, Benutzeroberflächen oder Apps können Verbraucherinnen und Verbraucher zu Entscheidungen veranlasst werden, die sie eigentlich nicht wollen oder die für sie nachteilig sind. Anbieter von digitalen Diensten (z.B. Plattformen, Apps, Webseiten, Betriebssysteme) sammeln nahezu flächendeckend viele Informationen über Verbraucherinnen und Verbraucher und ihr Nutzungsverhalten, erstellen aus diesen umfassende Persönlichkeitsprofile und nutzen diese Profile zur Verhaltenssteuerung und -beeinflussung, insbesondere um – zusammen mit großen Netzwerk aus Tracking- und Profilingunternehmen – Werbung oder auch manipulierende Inhalte maßgeschneidert anzuzeigen.
Schließlich können KI-gestützte Entscheidungen Verbraucherinnen und Verbraucher diskriminieren. Computerprogramme, die KI einsetzen, können zur Erzeugung von strafbarer Hassrede oder täuschend echt wirkenden Inhalten ("Deepfakes") verwendet werden, um die Nutzerinnen und Nutzer zu beeinflussen oder zu manipulieren und ehrverletzende Falschinformationen verbreiten.
In digitalen Räumen und bei der Nutzung von digitalen Angeboten und Produkten sind daher Sicherheit und Vertrauen entscheidend. Wir können von den Vorteilen der Digitalisierung nur profitieren, wenn digitale Angebote und Services sicher sind, faire und angemessene Nutzungs- und Zahlungsbedingungen haben, den Datenschutz und die Privatsphäre der Verbraucherinnen und Verbraucher achten und diese nicht diskriminieren, manipulieren oder täuschen. Leider nehmen aber verbraucherunfreundliche Praktiken mit zum Teil betrügerischen Ausmaßen zu (zum Beispiel Fake-Shops, Fake-Bewertungen und Dark Patterns).
