論文幕後花絮： Niklas Karlsson 應用回饋控制以處理複雜的廣告需求
工程師都知道回饋控制是調整系統並修正以達到預期結果的過程；例如，機器人遇到障礙物時會自行重新規劃路徑。亞馬遜廣告資深首席科學家 Niklas Karlsson 最近的研究正是以這種方法為基礎。Niklas 曾是機器人工程師，他將該背景及近二十年在廣告科技領域的經驗，應用於為顧客達成複雜推廣目標的問題上。
Niklas 擁有加州大學聖塔芭芭拉分校和瑞典隆德大學的工程與統計學高等學位，並且是電機電子工程師學會 (IEEE) 的會士。在 2000 年代初期，Niklas 為了尋求不同於早期機器人學領域的挑戰，加入了 Advertising.com，協助徹底改造其廣告優化系統。他對廣告科技的興趣持續不減，並於 2022 年 7 月加入亞馬遜。在這裡，他談論了他的職業生涯以及最近獲選發表於新加坡第 63 屆 IEEE 決策與控制會議 (2023) 的論文。
您的主要研究領域是什麼？
我的研究興趣是回饋控制、動態系統和最佳化。我在亞馬遜的職責是為亞馬遜需求方平台 (ADSP) 管理的廣告活動，提供優化與控制的演算法專業知識，並推動 ADSP 的進步以造福我們的顧客。我們的顧客是希望花費預算以達成某些廣告活動目標的廣告商。例如，廣告主可能會帶著 10 萬美元的月度預算來找我們，希望能以最大化總轉化數或銷售量的方式來花費這筆預算。他們希望在整個月內花費預算，而不是在第一天或最後一天就把所有預算用完。額外的投放限制也很常見。例如，將一半的廣告曝光數投放給女性使用者，或每次轉化或每次曝光量的平均花費不超過某個特定金額。廣告曝光數是指廣告向使用者展示一次。
廣告活動可定義為極高維度的多重限制優化問題。透過一些巧妙的數學方法，這個問題可以分解成稍微容易解決的子問題。這些子問題的解決方案涉及機器學習、回饋控制和統計學的進階技術；這些方案結合起來時，就能用來代表廣告商計算廣告曝光數的競價。
請介紹您的論文內容。
我的論文《基於回饋控制的階層式多重限制廣告活動最佳化》解決了一個先前被忽略的最佳化問題。請注意，廣告商通常希望在一個或多個投放限制下將成果最大化，例如總轉化數。過去，這類限制適用於整個廣告活動預算。但近年來，廣告主常常對整個廣告活動預算施加某些投放限制，而將其他限制僅應用於子廣告活動。子廣告活動由獨特的廣告素材定義，並受其自身限制。例如，在花費、女性對男性比例，以及每次曝光數或每次轉化的平均花費上。
因此，現今的廣告活動目標通常對應於階層式多重限制的優化問題。這引出了有趣且具挑戰性的研究問題。在我的研究之前，已經有人開發出一種簡單的解決方案，但該解決方案有其重要局限性，且與 ADSP 的宏大願景不相容。我的研究和論文透過推導出數學上的最佳解，並設計出該解決方案的去中心化實作，從而全面地解決了這個問題。
這篇論文是如何誕生的？
這始於我在亞馬遜最初幾個月對整個 ADSP 最佳化系統所做的一次審查。在審查期間，我找出了該優化系統的優點與弱點，並為我們的廣告主確立了改善廣告活動投放與成效的機會。其中一個特定的弱點引發了我大量的思考。雖然我知道可以改進，但我並未立即知道如何描述這個問題，腦中也沒有解決方案。然而，在 2022 年底，當我處於專案空檔期且有更多時間思考時，我的思路變得清晰並理出了細節。首先是使用數學充分定義問題，然後推導出最佳解和健全的實作方式。我在 2022 年 12 月準備了論文初稿，並在接下來的幾週內進一步歸納了研究結果。在論文定稿的同時，我們開始開發原型來展示這個概念，結果非常正面。事實毫無疑問地證明，這個解決方案應該投入生產並廣泛推行，而現在這已經實現了。
您看到了什麼樣的影響？
首先，這個解決方案立即讓廣告活動能更有效地投放其預算。更少的推廣預算被閒置，而由每次轉化平均成本等指標以及其他關鍵績效指標衡量的廣告活動效果，各自都提升了好幾個百分點。
但除了指標的改善之外，新的解決方案還實現了多種與舊解決方案不相容的其他投放限制。為了達到近乎最佳的效果，舊系統只能用於僅有花費限制的廣告活動。這代表對於每次轉化成本、每次曝光數成本、每次點擊費用 (CPC)、可視率、目標對象觸及率等設有限制的廣告活動，舊系統都無法處理。新系統是通用且具前瞻性的，能輕易處理任意數量的階層式多重限制問題。
這種方法有何值得注意之處？
新系統的獨特之處在於我們如何將問題模組化，以及之後如何協同執行多個回饋控制器，來穩健且高效地解決各種子問題。
人們對於如何將複雜的廣告科技問題轉化為控制問題感到著迷，因為這並非回饋控制的傳統用途；傳統的應用見於航太和機器人學領域。但回饋控制作為一門科學學科的美妙之處在於，它基於抽象化，使得相同工具能應用於許多不同領域。你可以將廣告科技的問題轉化成一種形式，讓您能使用與開發噴射引擎、自駕車和發電廠控制系統完全相同的工具。
在論文中，我採取整體方法，並盡可能地納入第一性原理推論。論文大部分是數學，但一旦你熟悉了符號，它其實相當簡單直觀。
您在機器人學的背景是否讓您能以這種方式思考？
當然。很多人問我從機器人學轉到線上推廣是不是很大的轉變。我說不是，因為我在機器人學領域工作時用的也是相同方法。我將商業問題轉化為數學問題；我解答出那個數學問題，然後在真實的系統中實作解決方案。這正是我現在在做的事情。這一切都關乎抽象化。
對您而言，在亞馬遜廣告擔任科學家的亮點是什麼？
我身邊圍繞著許多渴望發揮影響力的聰明人。亞馬遜的科學社群匯集了來自眾多學術背景的人才。當然，有很多電腦科學家，但也有來自統計學、經濟學、回饋控制、純數學、化學……等領域的人才，應有盡有。
我喜歡廣告科技普遍的一點是，它是如此地跨學科。不可能有人樣樣精通；每個人都貢獻己長，你總能從他人身上學到東西，並遇到許多等待被解決的有趣問題。
亞馬遜提供了一種真正鼓勵你分享新想法的文化。你會收到許多關於你想法的提問，通常會有大量的來回辯論，討論你心中想法的優點。但人們對新想法的接受度很高，這個過程能幫助你真正檢驗你的思維並交付高品質的工作。這是非常具支援性的組織。
您如何在自己的職位中重新構想廣告？
線上推廣存在很多年了。我們已經走了很長一段路，但仍有許多事要做。從宏觀角度來看，當我進入這個行業時，沒有使用者層級的資料，演算法很原始，廣告主對於自動化推廣能為他們做些什麼也沒什麼概念。
現在，有大量的精細資料可用於建模和優化；用於優化和控制的進階演算法已被開發出來；新型態的廣告格式也已出現。此外，今日的廣告主精明且要求高，他們期望獲得良好的投資報酬率 (ROI)。儘管過去 20 年取得了巨大的進步，但前方仍有許多挑戰，需要具備各種技能的人才來研究和解決問題。對於擁有機器學習、人工智慧、回饋控制、統計學和應用數學背景的人來說，我預期在亞馬遜廣告或推廣行業將有很多機會發展令人興奮的職涯。