Die Trustami GmbH startet im Februar 2020 ein dreijähriges Forschungsprojekt unter dem Namen SOFIE. Das Projekt wird durch das Bundesministerium für Justiz und Verbraucherschutz (BMJV) gefördert und hat zum Ziel zukünftig Verbraucher dabei zu unterstützen Fake Bewertungen und Shops zu erkennen. Hierzu wird im Rahmen der Projektlaufzeit eine KI entwickelt, die selbstlernend und eigenständig problematische Bewertungen und Shops erkennen kann.

Online Fake-Inhalte – Probleme und Herausforderungen

Das Internet hat nicht nur die Art und Weise, wie Verbraucher einkaufen, verändert. Es hat auch maßgeblich dazu beigetragen, wie Unternehmen ihre Waren und Dienstleistungen online bewerben und verkaufen. Webseiten für Kundenbewertungen, Online-Plattformen für Preis- und Produktvergleiche und Suchmaschinen sind Tools, die mittlerweile von Verbrauchern in großem Umfang genutzt werden und das Verbraucherverhalten nachhaltig beeinflussen.

Eine Umfrage ergab, dass 88% der Verbraucher Online-Bewertungen genauso vertrauen wie persönlichen Empfehlungen (Anderson 2017; Bright Ideas 2014; Bright Ideas 2018). Viele Transaktionen finden überhaupt erst statt, wenn gute Bewertungen existieren. Unglücklicherweise, ist daher im Internet eine ganze Industrie rund um gefälschte Bewertungen entstanden, da für Verbraucher Bewertungen von anderen Kunden eine sehr wichtige Kaufhilfe sind. Zwei Drittel der Deutschen (65 Prozent) nutzen Kundenbewertungen in Online Shops als Entscheidungshilfe vor dem Kauf von Produkten (Bitkom Research GmbH 2017).

Unterschiedlichen Schätzungen zufolge machen gefälschte oder irreführende Bewertungen (Fake-Bewertung) bis zu 16% aller Kundenbewertungen aus (European Parliament 2015). Ein Vorgehen gegen diese Art von Bewertungen ist jedoch problematisch, da es zum einen keinen gemeinsamen Standard für die Einstufung gibt und zum anderen die Erkennung von Fake-Bewertungen schwer umzusetzen ist.

In der Studie von Luca und Zervas (2016) wurden bis zu 16% aller Bewertungen auf Yelp als verdächtig, d. h. möglicherweise als Fälschung, eingestuft.

Auch der bekannten Plattform TripAdvisor mit 150 Millionen Bewertungen und Meinungen zu mehr als 3,7 Millionen Anbietern von Unterkünften, Restaurants und Attraktionen, fällt es aufgrund der bloßen Zahlen schwer, gefälschte Online-Meinungen von Verbrauchern zu überprüfen und zu identifizieren (Dupont 2014).

Selbst Amazon, der größte Online Retailer der Welt, ist nicht eigenständig in der Lage gegen Fake-Produkte vorzugehen. Da teilweise eigene Mitarbeiter Firmen mit betrügerischen Absichten unterstützt haben interne Regeln zu umgehen, hat Amazon im Frühjahr Project Zero angekündigt (Mehta 2019). Ein Programm, dass es den Originalanbietern selbst ermöglicht Fake-Produkte zu kennzeichnen und aus dem Verkehr zu ziehen (Carlborg 2019).

Service für Online Fake Identifikation im E-Commerce (SOFIE)

Bewertungen sind die wichtigste Währung im Internet und zielen darauf ab, den Verbraucher zu informieren und, durch Transparenz, ihr Vertrauen in den Markt zu stärken. Allerdings torpedieren sowohl Fake-Bewertungen als auch Fake-Shops dies: Die Verbraucher werden in die Irre geführt und verunsichert.

Um zukünftig das Vertrauen der Verbraucher in online Transaktionen sowie Aktivitäten zu festigen und zu fördern, ist es notwendig gefälschte Bewertungen und Shops zu erkennen. Mit diesem Ziel soll im vorliegenden Vorhaben „Service für Online Fake Identifikation im E-Commerce“ (SOFIE) ein intelligentes System entwickelt werden, das sowohl Fake Bewertungen als auch Fake Shops zuverlässig, schnell und automatisch erkennen kann.

Für dieses Vorhaben stellen sich verschiedene Herausforderungen: Betrügerische Shops und Bewertungen können mannigfaltig sein und entwickeln sich kontinuierlich weiter. Deshalb ist es notwendig eine Anwendung zu entwickeln, die sowohl verschiedenste Fake-Bewertungen detektieren kann und dazu auch in der Lage ist sich verbessern bzw. selbst zu lernen. Ein starres Konstrukt ist aufgrund der hohen Enwicklungsdynamik des Internets keine geeignete Lösung.

Für einen selbstlernenden Detektor müssen große Datenmengen zur Verfügung stehen, um ein entsprechendes Analyse-Modell zu trainieren. Zum einen ist es erforderlich sehr große Datenmengen (Bewertungen) aus verschiedenen Quellen zu sammeln.

Zum anderen müssen für Trainingszwecke große Mengen an Fake-Bewertungen gekennzeichnet sein. Dieses sog. Labeln von Daten ist in großen Mengen kaum manuell durchführbar. Zudem existieren wenig öffentliche Daten zu Fake-Bewertungen oder Fake-Shops, die genutzt werden können.

Eine zusätzliche Hürde sind fehlende Ansätze und Forschungsarbeiten im deutschsprachigen Raum. Existierende Ansätze und Verfahren beruhen fast ausschließlich auf englischsprachigen Texten und Bewertungen. Deutsche und englische Reviews unterscheiden sich in Syntax, Grammatik und ling. Stil enorm. Eine Adaption für den deutschsprachigen Raum ist deshalb zwingend notwendig und kann für eine Positionierung gegenüber internationalen Bestrebungen vorteilhaft sein.

Da sich die Zielstellung dieses Projektes hauptsächlich an den Verbraucher gerichtet ist, werden Ergebnisse in einer leicht zugänglichen (barrierefrei) und konsumierbaren Art und Weise bereitgestellt. Hierfür werden im Rahmen des Projektes sowohl einfach zu installierende Browser-Plugins angeboten als auch eine frei zugängliche Informationsplattform bereitgestellt. Darüber hinaus wird das Informationsportal www.produktbewertungen.org um die Fake-Prüfung und Markierung erweitert, so dass sich Verbraucher zukünftig mit wenig Aufwand über Produkte über mehrere Plattformen hinweg informieren können.

Das Thema Fake-Bewertung ist schon seit längerem vor allem in der Hotelbranche ein Problem. In jüngster Zeit häufen sich allerdings auch Fälle in anderen Branchen. Da sowohl Forschung als auch Praxis aktuell keine zuverlässige Lösung anbieten können, wie Verbraucher einfach vor missbräuchlichen oder betrügerischen Angeboten geschützt werden können ist es Ziel von SOFIE mit Hilfe neuester KI-Ansätze und -Technologie eine Lösung zu schaffen.

Projektförderung

Förderung von Vorhaben zur verbraucherbezogenen Forschung und Entwicklung zu „Anwendungen künstlicher Intelligenz zur Unterstützung des Verbraucheralltags“ im Rahmen des Programms zur Innovationsförderung im Verbraucherschutz in Recht und Wirtschaft