Ansiktet bakom artikeln: Niklas Karlsson använder sig av återkopplingskontroll för att hantera komplexa annonskrav

För ingenjörer innebär återkopplingskontroll processen att justera ett system och korrigera för ett önskat resultat. Till exempel att en robot möter ett hinder och omdirigerar sig själv. Samma tillvägagångssätt ligger till grund för Niklas Karlssons, Senior Principal Scientist på Amazon Ads, senaste forskning. Niklas har tillämpat sin bakgrund som ingenjör inom robotik – samt sina nästan två decennier inom annonseringsteknik – på problemet med att leverera komplexa annonseringsmål för kunderna.

Niklas har avancerad examen i ingenjörsvetenskap och statistik från University of California i Santa Barbara och Lunds universitet i Sverige, och han var stipendiat hos Institute of Electrical and Electronics Engineers (IEEE). Niklas ville ha en förändring från sitt tidiga arbete inom robotik i början av 2000-talet och anslöt till Advertising.com för att hjälpa till att se över deras annonsoptimeringssystem. Intresset för annonsteknik blev långvarigt och Niklas började hos Amazon i juli 2022. Här berättar han om sin karriär och senaste artikel, som antogs till den 63:e IEEE-konferensen om beslut och kontroll (2023) i Singapore.

Jag hade varit i onlineannonsbranschen sedan 2005, och i början av 2022 kontaktade en rekryterare mig om möjligheten att börja hos Amazon Ads. Jag lockades av tanken på att ta itu med liknande typer av problem som jag var van vid, men för ett annat företag. Möjligheten att arbeta på Amazon kändes spännande. Amazons storlek, rykte och ambitiösa principer för ledarskap – Var partisk för handling, Tänk stort, Leverera resultat – fick gensvar hos mig.

Mina forskningsintressen är återkopplingskontroll, dynamiska system och optimering. Mitt uppdrag på Amazon är att tillhandahålla expertis inom algoritmer för optimering och kontroll av annonskampanjer som hanteras av Amazon Demand Side Platform (ADSP) och att utveckla ADSP till förmån för våra kunder. Våra kunder är annonsörer som vill använda sina budgetar till att uppnå kampanjmål. En annonsör kan till exempel kontakta oss med en månadsbudget på 100 000 USD som ska spenderas på ett sådant sätt att det totala antalet konverteringar eller försäljningen maximeras. Önskan är att fördela budgeten under hela månaden – inte att spendera allt den första dagen eller den sista dagen. Ytterligare leveransbegränsningar är vanliga, till exempel att visa hälften av annonsvisningarna för kvinnliga användare eller att inte spendera mer än ett visst belopp, i genomsnitt, per konvertering eller per visning. En annonsvisning är när en annons visas för en användare.

En annonskampanj kan definieras som ett extremt högdimensionellt optimeringsproblem med flera begränsningar. Med hjälp av lite smart matematik kan det här problemet delas upp i delproblem som är lite lättare att lösa. Lösningarna på delproblemen involverar avancerade tekniker från maskininlärning, återkopplingskontroll och statistik. När de kombineras används de för att beräkna bud som skickas in för annonsvisningar på annonsörens vägnar.

Min artikel löser ett tidigare förbisett optimeringsproblem. Observera att annonsörer vanligtvis vill maximera till exempel det totala antalet konverteringar med en eller flera leveransbegränsningar. Historiskt sett gällde sådana begränsningar hela kampanjbudgeten. Men de senaste åren har annonsörer ofta infört vissa leveransbegränsningar för den totala kampanjbudgeten och andra bara för underkampanjer. En underkampanj definieras av ett unikt annonsmaterial och omfattas av sina egna begränsningar, till exempel vad gäller utgifter, antal kvinnor i förhållande till män och genomsnittlig kostnad per visning eller per konvertering.

Därav att kampanjmål idag ofta motsvarar hierarkiska optimeringsproblem med flera begränsningar. Detta leder till intressanta och utmanande forskningsproblem. En enkel lösning hade utvecklats före min forskning, men den lösningen hade viktiga begränsningar och var oförenlig med ADSP:s stora vision. Min forskning och artikel behandlar problemet holistiskt genom att härleda den matematiskt optimala lösningen och utforma en decentraliserad implementering av lösningen.

Det började med en granskning jag genomförde av det övergripande ADSP-optimeringssystemet under mina första månader på Amazon. Under granskningen identifierade jag styrkor och svagheter i optimeringssystemet och etablerade möjligheter för förbättrad kampanjleverans och resultat för våra annonsörer. Det var en specifik svaghet som jag funderade mycket över. Även om jag visste att förbättringar kunde göras visste jag inte omedelbart hur jag skulle beskriva problemet, och jag hade ingen lösning i åtanke. Men i slutet av 2022 när jag var mellan projekt och hade mer tid att fundera, skapade jag mig en bättre bild och utarbetade detaljerna – först genom att definiera problemet med hjälp av matematik och därefter genom att härleda den optimala lösningen och en sund implementering. Jag förberedde artikelns första utkast i december 2022 och generaliserade resultaten ytterligare under de kommande veckorna. Medan artikeln höll på att slutföras började vi utveckla en prototyp för att demonstrera konceptet, och resultatet var överväldigande positivt. Det bevisades bortom rimligt tvivel att den här lösningen borde sättas i produktion och rullas ut brett, vilket nu har skett.

Först och främst gjorde lösningen omedelbart det möjligt för annonskampanjer att leverera på sina budgetar mer effektivt. Mindre annonseringsbudget lämnades oanvänd, och kampanjresultatet mättes med hjälp av nyckeltal, till exempel den genomsnittliga kostnaden per konvertering och andra nyckeltal, som förbättrades med flera procentenheter vardera.

Förutom de förbättrade nyckeltalen möjliggjorde den nya lösningen också en mängd andra leveransbegränsningar som var oförenliga med den gamla lösningen. För att komma så nära optimalt som möjligt kunde det gamla systemet endast användas för kampanjer som bara hade utgiftsbegränsningar. Detta innebar att kampanjer med begränsningar för kostnad per konvertering, kostnad per visning, kostnad per klick, visningsfrekvens, målfrekvens osv. var utom räckhåll. Det nya systemet är generellt och framåtblickande och hanterar enkelt ett godtyckligt antal hierarkiska problem med flera begränsningar.

Det som särskiljer det nya systemet är hur problemet modulariseras och därefter hur flera återkopplingskontroller implementeras tillsammans för att robust och effektivt lösa de olika delproblemen.

Det finns människor som fascineras av hur man kan omvandla ett komplext annonstekniskt problem till ett kontrollproblem, eftersom det inte är vad man traditionellt sätt använder återkopplingskontroll till. Traditionellt sätt används det inom flyg och robotik. Fördelen med återkopplingskontroll som en vetenskaplig disciplin är att den är baserad på abstraktion som tillåter att samma verktyg tillämpas på många sätt. Du kan omvandla problem från ad tech till en form som låter dig använda exakt samma verktyg som används för att utveckla kontrollsystem för jetmotorer, självkörande bilar och kraftverk.

I artikeln tar jag ett holistiskt förhållningssätt och använder First Principles Reasoning när helst jag kan. Större delen av artikeln är matematik, men när man förstått notationen är den ganska enkel och intuitiv.

Absolut! Många har frågat mig om det var en stor förändring att gå från robotik till onlineannonsering. Jag säger nej för när jag arbetade inom robotik använde jag samma tillvägagångssätt. Jag tog ett affärsproblem och omvandlade det till ett matematiskt problem. Jag löste det matematiska problemet och implementerade sedan en lösning i ett verkligt system. Det är precis det jag gör nu också. Allt handlar om abstraktion.

Jag är omgiven av många smarta människor som verkligen vill göra skillnad. Många akademiska bakgrunder är representerade i Amazonas vetenskapscommunity. Det finns såklart gott om datavetare, men det finns också människor från statistik, ekonomi, återkopplingskontroll, ren matematik, kemi ... allt möjligt.

Det jag gillar med ad tech generellt är att det är så tvärvetenskapligt. Det går inte att veta allt. Alla tillför något, och man lär sig alltid av andra och stöter på många intressanta problem som bara väntar på att lösas.

Amazon erbjuder en kultur där man verkligen uppmuntras att dela nya idéer. Man får massor av frågor om sina idéer, och vanligtvis är det mycket fram och tillbaka där man diskuterar detaljerna för det man har i åtanke. Men alla är väldigt mottagliga för nya idéer, och processen hjälper en att verkligen testa sitt tänkande och leverera arbete av hög kvalitet. Det är en väldigt stöttande organisation.

Onlineannonsering har funnits i många år. Vi har kommit långt, men det finns fortfarande så mycket att göra. För att sätta saker i perspektiv så fanns det, när jag kom in i branschen, inga data på användarnivå. Algoritmer var primitiva och annonsörer hade en dålig uppfattning om vad automatiserad annonsering kunde göra för dem.

Nu finns det en enorm mängd detaljerade data för modellering och optimering, avancerade algoritmer för optimering och kontroll har utvecklats och nya typer av annonsformat har dykt upp. Annonsörer idag är också kunniga och krävande, och de förväntar sig en bra investeringsavkastning. Trots de enorma framstegen under de senaste 20 åren finns det så mycket framför oss som kommer att kräva människor med olika färdigheter för att forska och lösa problem. För personer med bakgrund inom maskininlärning, AI, återkopplingskontroll, statistik och tillämpad matematik, tror jag att det kommer att finnas många möjligheter att utveckla en spännande karriär hos Amazon Ads eller i annonseringsbranschen.