Wissen & Technologie
Яндекс entwickelt Test zur Bewertung von KI-Systemen nach moralischen Werten
Die Firma Яндекс hat der russischen Regierung ein Konzept für einen Test vorgestellt, um KI-Systeme auf ihre Übereinstimmung mit spirituellen und moralischen Werten sowie gesetzlichen Anforderungen zu prüfen.
Яндекс hat dem russischen Regierungskabinett einen nationalen Datensatz zur Prüfung von KI-Systemen auf deren Übereinstimmung mit spirituellen und moralischen Werten vorgestellt. Laut Angaben von Habr umfasst das Konzept einen Satz von Testaufgaben und Referenzantworten, die dazu dienen, verschiedene neuronale Netze miteinander zu vergleichen.
Der Test soll dazu beitragen, die Übereinstimmung der KI-Systeme mit den Werten des Landes sowie deren Eignung für den russischen Markt zu beurteilen. Dieser Ansatz wurde während eines Treffens der Arbeitsgruppe zur Regulierung und den administrativen Barrieren für Künstliche Intelligenz am 13. August 2023 diskutiert, berichten Quellen von Meduza und Habr.
Ein anonymer Insider, der in der Sitzung anwesend war, teilte mit, dass die Notwendigkeit des Tests darin besteht, sicherzustellen, dass die KI-Systeme im Einklang mit dem 'Geist unserer Zeit' stehen. Besonders betont wurde, dass der Test auf die spezifischen Anforderungen des russischen Marktes zugeschnitten sein sollte.
Es bleibt jedoch unklar, wer für den Inhalt der Tests verantwortlich sein wird. Quellen zufolge wird vorgeschlagen, eine gemeinsame Kommission zu bilden, die staatliche Institutionen, Unternehmen und Experten einbezieht, um diese Aufgabe zu übernehmen.
Der russische Geheimdienst FSB hat betont, dass der Test eine geschlossene Natur haben sollte, was Fragen zur Transparenz und zu den Kriterien aufwirft, die für die Bewertung der KI verwendet werden sollen.