Um Wissen in Unternehmen sichtbar zu machen, haben wir für we:kiwi einen sogenannten Recommender-Algorithmus entwickelt. Derartige Algorithmen beeinflussen unser Leben als Nutzer:innen großer Social-Media-Plattformen auch heute schon stark, weil von ihnen maßgeblich abhängt, welche Inhalte wir online zu sehen bekommen und wie wir uns informieren. Deshalb werden Gesetzgeber:innen immer wieder von netzpolitischen NGOs aufgefordert, Recommender-Systeme stärker zu regulieren und für mehr Transparenz zu sorgen. Wir unterstützen diese Forderungen. Mit diesem Beitrag machen wir deshalb bereits den ersten Schritt, präsentieren we:kiwis transparentes Scoring und skizzieren eine Transparency-Roadmap.

Welche Forderungen gibt es hinsichtlich Recommender-Systemen?

In diesem Beitrag der Menschenrechtsorganisation Article 19 wurden an das Europaparlament folgende Vorschläge zur Regulierung von Plattformen gemacht, die ihre Inhalte mittels Recommender-Algorithmen ordnen:

• Plattformen sollten es ihren Nutzer:innen ermöglichen, die angezeigten Inhalte von Recommender-Systemen externer Anbieter ihrer eigenen Wahl ordnen zu lassen.
• Plattformen sollten nachvollziehbar offenlegen müssen, wie ihr Recommender-System Inhalte bewertet und entscheidet, welche Inhalte den Nutzer:innen angezeigt werden und welche nicht.
• Plattformen sollten bezahlte Inhalte deutlicher von anderen Inhalten absetzen und ihren Nutzer:innen gleichzeitig offenlegen, warum sie diese spezifischen Inhalte angezeigt bekommen.
• Plattformen sollten ihren Nutzer:innen ermöglichen, die Parameter selbständig zu modifizieren, die zur Auslieferung bestimmter Inhalte führen.

Alle diese Vorschläge nehmen wir auch als Entwickler:innen einer völlig neuen und noch sehr kleinen Plattform als wichtige und einleuchtende Impulse wahr.

Während wir im Hinblick auf einige dieser Vorschläge allerdings Fragen der Umsetzbarkeit erst auf lange Sicht diskutieren können, freuen wir uns, jetzt bereits erste Schritte hin zu einer völlig transparenten und nachvollziehbaren KI gehen zu können.

Algorithmen-Transparenz und das we:kiwi-Bewertungssystem

Um die Relevanz von Inhalten für Nutzer:innen abzuleiten, stützt sich we:kiwi auf implizites Feedback, d.h. die Interaktionen der Nutzer:in mit einem Inhalt. Bei we:kiwi nennen wir Inhalte Karten.

Damit der Algorithmus mit einer Interaktion etwas anfangen kann, mussten wir uns ein System ausdenken, das in Zahlen ausdrückt, was eine Interaktion über die Relevanz der Karte für eine Nutzer:in aussagt. Dazu wird für Interaktionen ein Score vergeben, also eine Punktzahl.

Das Scoring-System vergibt Punkte nach folgendem Schema:

Eine Karte erstellen	1 Punkt
Lösungsvorschlag zu einer Challenge-Karte machen oder einen Lösungsvorschlag als Lösung markieren	0,8 Punkte
Eine Karte pinnen	0,5 Punkte
Eine Karte kommentieren	0,3 Punkte
Auf eine Karte mit einem Emoji reagieren	0,2 Punkte
Eine Karte näher ansehen	0,1 Punkt

Eine Karte, die hoch punktet, wird als relevanter für die Nutzer:in angesehen als eine Karte, mit der nur wenig oder überhaupt nicht interagiert wurde.

Ausgehend von dieser Annahme werden die Ratings dazu verwendet, ein Deep Learning Recommender Model zu trainieren, welches dann Vorhersagen über neue Nutzer-/Kartenpaare trifft. Karten, welche die trainierte KI aufgrund ihrer Eigenschaften für besonders relevant hält, werden der Nutzer:in bevorzugt angezeigt,

Transparency-Roadmap und Offenlegung des Quellcodes

Besonders transparent ist ein Recommender-System dann, wenn es als Open-Source-Code zur Verfügung steht. Deshalb werden wir bei Veröffentlichung der Plattform auch einen offenen Zugang zu unseren Repositories ermöglichen.

Darüber hinaus reflektieren wir stetig, wie we:kiwi aufgebaut werden muss, um den Nutzer:innen eine gute Erfahrung zu bieten. Dazu gehört auch dieser Blog und deshalb werden wir das Thema der Plattformtransparenz hier nicht aus den Augen verlieren. Diesbezügliche Fragen, denen wir uns künftig widmen wollen, sind etwa:

• Anhand welcher Eigenschaften von Karten und Nutzer:innen kann das Deep Learning Model seine Vorhersagen treffen?
• Wie wird mit den Daten von Nutzer:innen verfahren und inwiefern spielt die DSGVO eine Rolle?
• Welches Geschäftsmodell liegt we:kiwi zu Grunde und wird es so etwas wie Werbeanzeigen geben?

Klingt interessant?

kiwi entwickelt sich rasant und wird noch 2022 die Pforten für das we: im Namen öffnen, also für uns Nutzer:innen. Wenn wir dein Interesse geweckt haben und du zu den Ersten gehören möchtest, die auf der Plattform gemeinsam an Lösungen arbeiten, abonniere jetzt unseren Newsletter!

Dort erwarten dich in Zukunft unregelmäßige Projekt-Updates und Hintergrundinformationen zu unserer einzigartigen Verknüpfung von Konzepten aus Social Knowledge, Social Learning und Machine Learning. Außerdem sicherst du dir so einen exklusiven und selbstverständlich kostenlosen Zugang für die Testphase der Plattform und darüber hinaus!