Bewertung der Fähigkeiten von Foundation models mit Schwerpunkt auf gesundem Menschenverstand, Theory of Mind und menschlichen Werten.
Einführung
Foundation models wie ChatGPT sind umfangreiche Machine-Learning-Modelle, die anhand riesiger, umfangreicher Datensätze trainiert werden und für ein breites Aufgabenspektrum konzipiert sind. Diese Modelle haben eine bemerkenswerte Leistung bei der Generierung realistischer natürlicher Sprache bewiesen und zeigen eine gewisse Fähigkeit zur Problemlösung und zum logisch-logischen Denken. Die aktuellen Methoden zur Bewertung dieser Modelle weisen jedoch eine Reihe von Einschränkungen auf, die unser Verständnis ihrer Fähigkeiten einschränken.
Ziel dieses Projekts ist die Entwicklung neuer Methoden zur Bewertung der Stärken und Schwächen grundlegender Modelle, um Forschern und politischen Entscheidungsträgern fundierte Entscheidungen über deren Sicherheit und Nutzen zu ermöglichen. Unser Schwerpunkt liegt auf dem Benchmarking solcher Modelle und der Aufzeigung ihrer Leistungsgrenzen: Obwohl solche Modelle in mancher Hinsicht sehr leistungsfähig erscheinen, versagen sie bei scheinbar einfachen Aufgaben auf unvorhersehbare Weise.
Die Wissenschaft erklären
foundation models sind eine wichtige neue Klasse von Systemen der künstlichen Intelligenz (KI). Sie zeichnen sich durch die Verwendung sehr großer maschineller Lernmodelle aus, die mit extrem großen und umfangreichen Datensätzen trainiert werden und während des Trainings erhebliche Rechenressourcen benötigen. Große Sprachmodelle (LLMs) wie GPT-3 und GPT 4 von Open AI sowie Bard und LaMDA von Google sind die bekanntesten Beispiele für foundation models. Diese Modelle haben aufgrund ihrer Fähigkeit, realistische Texte in natürlicher Sprache zu generieren und anhaltende und häufig zusammenhängende Dialoge in natürlicher Sprache zu führen, große Aufmerksamkeit erregt.
Sie haben auch Fähigkeiten in anderen Bereichen gezeigt, beispielsweise im gesunden Menschenverstand und in der Problemlösung. Eine zentrale Hypothese der Arbeit an foundation models ist, dass sie Kompetenzen in einem breiten Aufgabenspektrum erwerben, die dann durch weiteres Training auf spezifische Anwendungen spezialisiert werden können. Grundlagenmodelle finden bereits innovative Anwendung, wie beispielsweise das CoPilot-System von GitHub , das Computercode aus natürlichsprachlichen Beschreibungen generieren kann („eine Python-Funktion zum Suchen aller Primzahlen in einer Liste“).
In diesem Projekt werden keine neuen foundation models entwickelt, sondern vielmehr untersucht, wie diese am besten bewertet und verglichen werden können, beispielsweise anhand synthetischer Welten und Szenarien. Wir werden uns außerdem mit verschiedenen Einschränkungen aktueller Benchmarking-Methoden befassen, beispielsweise mit der rasanten Veralterung von Benchmarks.
Projektziele
Wir werden uns auf die Beantwortung von drei Schlüsselfragen konzentrieren:
- Erlernte Werte. Wir untersuchen, inwieweit foundation models menschliche Werte erlernen. Inwieweit können sie die in solchen Szenarien vermittelten menschlichen Werte „verstehen“ und widerspiegeln? Wenden sie diese Werte konsequent an? Vertreten sie diese Werte unveränderlich oder sind sie je nach den dem Modell gegebenen Vorgaben formbar?
- Vernünftiges Denken. Große Sprachmodelle wie GPT scheinen über einige Fähigkeiten zum vernünftigen Denken zu verfügen. Die Grenzen dieser Fähigkeiten bleiben jedoch unklar. Unser Ziel ist es daher, robuste Methoden zu entwickeln, um zu bewerten, inwieweit LLMs die physikalischen, kausalen, räumlichen, zeitlichen und sozialen Regeln verstehen, die die Welt bestimmen.
- Theory of Mind. Menschliches Denken ist oft sozialer Natur und bezieht die Überzeugungen und Bestrebungen anderer mit ein. Inwieweit kann diese Fähigkeit durch Training mit Textdatensätzen erworben werden?
Mehr lesen: Blogsternation .com | Die besten Blog-Inhalte entdecken
Anwendungen
Der Begriff „Foundation Model“ spiegelt die Erwartung wider, dass diese Modelle die Grundlage für vielfältige Aufgaben und Anwendungen bilden können. Wir entwickeln in diesem Projekt keine Anwendungen im eigentlichen Sinne, erwarten aber, dass unsere Ergebnisse Entscheidungen über die geeignetsten Anwendungsbereiche für die aktuellen Fähigkeiten der Foundation Models unterstützen.
Letzte Aktualisierungen
Mike Wooldridge organisierte im Februar 2023 ein eintägiges Turing-Symposium am IET mit mehreren Rednern, darunter zwei der Forscher, Mike Wooldridge und Tony Cohn. Sehen Sie sich die Aufzeichnung der Veranstaltung an . Bleiben Sie dran für zukünftige Veranstaltungen.