Hinter den Kulissen: Niklas Karlsson wendet Rückkopplungsregelungen an, um komplexe Anzeigenanforderungen zu balancieren
Ingenieure kennen die Rückkopplungsregelung als den Prozess der Anpassung eines Systems und der Korrektur eines gewünschten Ergebnisses. Zum Beispiel stößt ein Roboter auf ein Hindernis und steuert sich selbst um. Dieser Ansatz liegt auch der jüngsten Arbeit von Niklas Karlsson zugrunde, einem Senior Principal Scientist bei Amazon Ads. Als ehemaliger Robotik-Ingenieur hat Niklas diesen Hintergrund - sowie fast zwei Jahrzehnte in der Werbetechnik – auf das Problem angewendet, komplexe Werbeziele für Kunden zu erreichen.
Niklas hat Abschlüsse in Ingenieurwesen und Statistik von der University of California in Santa Barbara und der Lund University in Schweden und ist ein Fellow des Institute of Electrical and Electronics Engineers (IEEE). Auf der Suche nach einer Abwechslung zu seinem frühen Ausflug in die Robotik in den frühen 2000er Jahren kam Niklas zu Advertising.com, um bei der Überarbeitung des Systems zur Optimierung von Werbeanzeigen zu helfen. Das Interesse an der Werbeanzeige blieb bestehen und Niklas kam im Juli 2022 zu Amazon. Hier spricht er über seine Karriere und sein jüngstes Paper, das für die 63. IEEE Conference on Decision and Control (2023) in Singapur angenommen wurde.
Warum sind Sie bei Amazon Ads eingestiegen?
Ich war seit 2005 in der Online-Werbebranche tätig, und Anfang 2022 sprach mich ein Personalvermittler auf die Möglichkeit an, mich bei Amazon Ads zu bewerben. Ich war von der Idee angetan, mich mit ähnlichen Problemen zu beschäftigen, wie ich es gewohnt war, aber für ein anderes Unternehmen. Die Aussicht, bei Amazon zu arbeiten, hat mich fasziniert. Die Größe, der gute Ruf und die ehrgeizigen Führungsprinzipien von Amazon – Aktiv handeln, In großen Dimensionen denken, Ergebnisse liefern – sprachen mich an.
Was ist Ihr Hauptforschungsgebiet?
Mein Forschungsinteresse gilt der Rückkopplungsregelung, dynamischen Systemen und Optimierung. Meine Aufgabe bei Amazon ist es, Fachwissen über Algorithmen zur Optimierung und Steuerung von Werbekampagnen, die von der Amazon Demand Side Platform (ADSP) verwaltet werden, bereitzustellen und ADSP zum Nutzen unserer Kunden weiterzuentwickeln. Unsere Kunden sind Werbetreibende, die ihr Budget ausgeben möchten, um ein bestimmtes Kampagnenziel zu erreichen. Ein Werbetreibender kann sich zum Beispiel mit einem monatlichen Budget von 100.000 USD an uns wenden, das er so ausgeben möchte, dass die Gesamtzahl der Conversions, also der Verkäufe, maximiert wird. Der Wunsch ist es, das Budget im Laufe des Monats auszugeben – nicht alles am ersten oder letzten Tag. Zusätzliche Auslieferungsbeschränkungen sind üblich, z. B. die Hälfte der Anzeigenimpressions an weibliche Benutzer auszuliefern oder im Durchschnitt höchstens einen bestimmten Betrag pro Conversion oder pro Impression auszugeben. Eine Anzeigenimpression bedeutet, dass eine Anzeige einem Benutzer angezeigt wird.
Eine Werbekampagne kann als ein extrem hochdimensionales, mehrfach eingeschränktes Optimierungsproblem definiert werden. Durch geschickte Mathematik kann dieses Problem in Teilprobleme zerlegt werden, die etwas einfacher zu lösen sind. Die Lösungen für die Teilprobleme umfassen fortschrittliche Techniken des maschinellen Lernens, der Rückkopplungsregelung und der Statistik. In Kombination werden sie zur Berechnung von Geboten verwendet, die im Namen des Werbetreibenden für Anzeigenmpressions abgegeben werden.
Erzählen Sie uns von Ihrem Paper.
Mein Paper „Feedback-control based hierarchical multi-constraint ad campaign optimization“ löst ein bisher übersehenes Optimierungsproblem. Beachten Sie, dass Werbetreibende in der Regel die Gesamtzahl der Conversions maximieren möchten, die einer oder mehreren Auslieferungsbeschränkungen unterliegen. In der Vergangenheit galten solche Beschränkungen für das gesamte Kampagnenbudget. In den letzten Jahren haben die Werbetreibenden jedoch häufig bestimmte Auslieferungsbeschränkungen für das Gesamtbudget der Kampagne und andere nur für Teilkampagnen festgelegt. Eine Unterkampagne wird durch ein eindeutiges Werbemittel definiert und unterliegt eigenen Beschränkungen, z. B. in Bezug auf die Werbeausgaben, das Verhältnis von Frauen zu Männern und die durchschnittlichen Ausgaben pro Impression oder pro Conversion.
Daraus folgt, dass die Ziele von Kampagnen heute oft hierarchischen, mehrfach eingeschränkten Optimierungsproblemen entsprechen. Dies führt zu interessanten und anspruchsvollen Forschungsproblemen. Eine einfache Lösung war bereits vor meiner Forschung entwickelt worden, aber diese Lösung hatte erhebliche Einschränkungen und war nicht mit der übergeordneten Vision von ADSP vereinbar. Meine Forschung und mein Paper gehen das Problem ganzheitlich an, indem sie die mathematisch optimale Lösung ableiten und eine dezentrale Implementierung der Lösung entwickeln.
Wie ist das Paper entstanden?
Es begann mit einer Prüfung des gesamten ADSP-Optimierungssystems, die ich während meiner ersten Monate bei Amazon durchführte. Während der Prüfung habe ich Stärken und Schwächen des Optimierungssystems identifiziert und Möglichkeiten für eine verbesserte Auslieferung der Kampagnen und Performance für unsere Werbetreibenden ermittelt. Eine bestimmte Schwäche hat mich sehr zum Nachdenken gebracht. Obwohl ich wusste, dass Verbesserungen möglich waren, wusste ich nicht sofort, wie ich das Problem beschreiben sollte, und ich hatte auch keine Lösung im Kopf. Doch gegen Ende des Jahres 2022, als ich zwischen zwei Projekten steckte und mehr Zeit zum Nachdenken hatte, gewann ich Klarheit und arbeitete die Details aus – zunächst, indem ich das Problem mithilfe der Mathematik angemessen definierte und danach, indem ich die optimale Lösung und eine solide Implementierung ableitete. Ich habe den ersten Entwurf des Papers im Dezember 2022 erstellt und die Ergebnisse in den kommenden Wochen weiter verallgemeinert. Als das Paper fertiggestellt war, begannen wir mit der Entwicklung eines Prototyps, um das Konzept zu demonstrieren, und das Ergebnis war überwältigend positiv. Es wurde zweifelsfrei bewiesen, dass diese Lösung in die Produktion aufgenommen und auf breiter Basis eingeführt werden sollte, was nun geschehen ist.
Welche Art von Auswirkung haben Sie gesehen?
Zunächst einmal ermöglichte die Lösung den Werbekampagnen sofort, ihre Budgets effizienter einzusetzen. Es wurde weniger Werbebudget verschwendet und die Kampagnenperformance wurde anhand von Metriken wie den durchschnittlichen Kosten pro Conversion und anderen Key Performance Indicators gemessen, die sich jeweils um mehrere Prozentpunkte verbesserten.
Aber neben den verbesserten Metriken ermöglichte die neue Lösung auch eine Vielzahl anderer Auslieferungsbedingungen, die mit der alten Lösung nicht kompatibel waren. Um eine annähernde Optimalität zu erreichen, konnte das alte System nur für Kampagnen verwendet werden, bei denen es nur eine Ausgabenbeschränkung gab. Das bedeutete, dass Kampagnen mit Einschränkungen bei Kosten pro Conversion, Kosten pro Impression, Kosten pro Klick, In-View-Rate, In-Target-Rate usw. außer Reichweite waren. Das neue System ist allgemein und zukunftsorientiert und kann eine beliebige Anzahl von hierarchischen mehrfach eingeschränkten Problemen bearbeiten.
Was ist bemerkenswert an diesem Ansatz?
Das Unterscheidungsmerkmal des neuen Systems besteht darin, wie das Problem modularisiert wird und wie anschließend mehrere Rückkopplungsregelungen gemeinsam eingesetzt werden, um die verschiedenen Teilprobleme robust und effizient zu lösen.
Die Menschen sind fasziniert davon, wie man ein komplexes technisches Anzeigenproblem in ein Regelungsproblem umwandeln kann, denn das ist nicht die traditionelle Anwendung der Rückkopplungsregelung. Herkömmliche Anwendungen finden sich in der Luft- und Raumfahrt und in der Robotik. Das Schöne an der Rückkopplungsregelung als wissenschaftliche Disziplin ist jedoch, dass sie auf einer Abstraktion beruht, die es ermöglicht, dieselben Werkzeuge für viele Anwendungen zu nutzen. Sie können Probleme aus der Werbetechnologie in eine Form bringen, die es Ihnen ermöglicht, genau die gleichen Tools zu verwenden, die zur Entwicklung von Steuerungssystemen für Düsentriebwerke, selbstfahrende Autos und Kraftwerke verwendet werden.
In dem Paper verfolge ich einen ganzheitlichen Ansatz und wende überall dort, wo es möglich ist, Überlegungen auf Basis erster Prinzipien an. Der größte Teil des Papers besteht aus Mathematik, aber wenn Sie mit der Notation vertraut sind, ist es recht einfach und intuitiv.
Hat Ihr Hintergrund in der Robotik Sie dazu gebracht, so zu denken?
Auf jeden Fall. Viele Leute haben mich gefragt, ob es eine große Umstellung war, von der Robotik in die Online-Werbung zu wechseln. Ich sage nein, denn als ich in der Robotik gearbeitet habe, habe ich den gleichen Ansatz verwendet. Ich habe ein Geschäftsproblem in ein mathematisches Problem umgewandelt. Ich habe das mathematische Problem gelöst und dann eine Lösung in einem realen System implementiert. Das ist genau das, was ich jetzt mache. Es dreht sich alles um Abstraktion.
Was ist für Sie ein Highlight bei der Arbeit als Wissenschaftler bei Amazon Ads?
Ich bin von vielen klugen Leuten umgeben, die etwas bewirken wollen. Viele akademische Hintergründe sind in der wissenschaftlichen Gemeinschaft von Amazon vertreten. Sicherlich gibt es viele Informatiker, aber es gibt auch Leute aus den Bereichen Statistik, Wirtschaft, Rückkopplungsregelung, reine Mathematik, Chemie und vieles mehr.
Was mir an der Werbetechnologie im Allgemeinen gefällt, ist, dass sie so interdisziplinär ist. Es ist nicht möglich, alles zu wissen. Jeder bringt etwas auf den Tisch und Sie werden immer von anderen lernen und auf viele interessante Probleme stoßen, die nur darauf warten, gelöst zu werden.
Amazon bietet eine Kultur, in der Sie wirklich ermutigt werden, neue Ideen einzubringen. Sie werden viele Fragen zu Ihren Ideen erhalten und in der Regel gibt es ein heftiges Hin und Her, bei dem Sie die Vorzüge Ihrer Ideen diskutieren. Aber die Menschen sind sehr empfänglich für neue Ideen, und der Prozess hilft Ihnen, Ihr Denken wirklich zu testen und qualitativ hochwertige Arbeit zu leisten. Es ist eine sehr unterstützende Organisation.
Wie gestalten Sie Werbung in Ihrer Rolle neu?
Online-Werbung gibt es schon seit vielen Jahren. Wir haben einen langen Weg hinter uns, aber es gibt noch so viel zu tun. Um die Dinge ins rechte Licht zu rücken: Als ich in die Branche eintrat, gab es keine Daten auf Benutzerebene, die Algorithmen waren primitiv und die Werbetreibenden hatten kaum eine Vorstellung davon, was automatisierte Werbung für sie tun konnte.
Heute steht eine riesige Menge granularer Daten für die Modellierung und Optimierung zur Verfügung, es wurden fortschrittliche Algorithmen für die Optimierung und Steuerung entwickelt und es sind neue Arten von Anzeigenformaten entstanden. Außerdem sind die Werbetreibenden von heute versiert und anspruchsvoll, und sie erwarten einen guten Return on Investment. Trotz der enormen Fortschritte in den letzten 20 Jahren liegt noch so viel vor uns, dass wir Menschen mit den unterschiedlichsten Skillsets brauchen, um Probleme zu erforschen und zu lösen. Für Menschen mit einem Hintergrund in maschinellem Lernen, KI, Rückkopplungsregelung, Statistik und angewandter Mathematik wird es viele Möglichkeiten geben, bei Amazon Ads oder in der Werbebranche spannende Karrieren zu machen.