9 oktober 2024
Fler av de färska Nobelprisen handlar i år om AI: fysikpriset belönade ”grundläggande upptäckter och uppfinningar som möjliggör maskininlärning med artificiella neuronnätverk” och kemipriset utdelas ”för datorbaserad proteindesign” samt ”för proteinstrukturprediktion”. SUA:s Måns Magnusson, docent i statistik, och Lucie Delemotte, docent i biofysik svarar på 5 frågor om prisen, på svenska respektive engelska.
Måns Magnusson och Lucie Delemotte. Foto: Lars Pehrson/SUA och Erik Thor/SUA
Kungl. Vetenskapsakademien ger Nobelpriset i fysik 2024 till John J. Hopfield, Princeton University, NJ, USA och Geoffrey E. Hinton, University of Toronto, Kanada, ”för grundläggande upptäckter och uppfinningar som möjliggör maskininlärning med artificiella neuronnätverk”. Nobelpriset i kemi 2024 ges med ena hälften till David Baker, University of Washington, Seattle, WA, USA och Howard Hughes Medical Institute, USA
”för datorbaserad proteindesign” och med andra hälften gemensamt till
Demis Hassabis, Google DeepMind, London, Storbritannien och John M. Jumper, Google DeepMind, London, Storbritannien ”för proteinstrukturprediktion”.
Måns, fysik: Ja, jag forskar inom ett fält som brukar kallas probabilistisk maskininlärning. Det handlar om att vi använder sannolikhetsmodeller för att hantera osäkerhet och göra förutsägelser. I stället för att klassificera något på rak arm, tas hänsyn till osäkerheten i både data och modellens antaganden, som uttrycks genom sannolikheter. I det här arbetet använder jag också olika typer av djupa neurala nätverk (DNN), framförallt för att analysera stora mängder textuell data, det vill säga text. DNN består av en mängd sammankopplade neuroner som vi lär att göra prediktioner från data. DNN är ett neuralt nätverk med många lager, vilket ofta kan göra dem väldigt stora. De största nätverken idag får inte ens plats på vanliga datorer. Genom att ha många lager kan dessa nätverk identifiera komplexa mönster och funktioner, vilket gör dem användbara inom till exempel bildigenkänning, taligenkänning och språkbehandling. Dessa DNN är, enkelt uttrycket, det som pristagaren Hinton ligger bakom i sin forskning. Det är mycket tack vare honom som vi har möjligheten att bedriva den här forskningen och träna stora och djupa nätverk.
Ett exempel på forskningsprojekt där vi använder oss av DNN handlar om att tillsammans med Brottsförebyggande rådet (Brå) träna neurala nätverk för att avgöra om texten i polisanmälningar utgör ett hatbrott eller inte, en bedömning som nu görs av experter vid Brå. Vår förhoppnning är att dessa modeller ska kunna hjälpa Brå i sitt arbete med den svenska hatbrottsstatistiken. De modeller som vi tränar för att kunna göra denna automatiska bedömning är en typ av neurala nätverk som kallas för transformers (även i svenska sammanhang). Även de här modellerna är exempel på DNN.
Nobelpriset i kemi ges delvis till forskare som utvecklat och tränat en särskild modell, AlphaFold, för att kunna förutsäga proteinstrukturer baserat på de kemiska komponenterna i ett protein. Det är ganska långt ifrån mina tillämpningar, men AlphaFold bygger faktiskt också på transformers som utvecklats vidare för tillämpningar inom proteinstrukturer.
Att både grunden för djupa neurala nätverk, och en mycket viktig tillämpning och utveckling av dessa modeller får pris samma år är väldigt roligt!
Lucie, chemistry: Yes, my research is related to protein function and how their structure governs their function. We are specifically interested in membrane proteins, the proteins that make it possible for biological cells to communicate with their environment. In my lab, we use computational techniques to predict how proteins “jiggle and wiggle” and how this is instrumental for their function.
For a long time, as input to our molecular dynamics’ simulations, we have used protein structures that were determined using experimental methods such as X-ray crystallography (Nobel Prize in Chemistry in 1962), or more recently, cryo-electron microscopy (Nobel Prize in Chemistry 2017). Since AlphaFold2 was released, which is the object of the second half of this year’s Nobel Prize, it has become possible to model proteins whose structure has not yet been experimentally resolved. Given that the researchers who designed AlphaFold2 made it freely accessible, it has been adapted by many research teams across the world. One particularly interesting development for us has been that a modification of the algorithm has made it possible, not only to predict a single protein structure, but instead several structures representing the different shapes that the protein must cycle through to do its work. We have used this development a lot in our research.
The first half of the Nobel Prize relates to the ability to make new proteins from scratch, knowing only what we would like them to do. While we do not work directly with these designs, I have always followed this closely, as I find this possibility truly astounding. On top of this, the team of David Baker also develops the software Rosetta which performs many tasks beyond designing novel proteins, and we use it in our daily work, for example to predict the structure of mutant proteins.
Måns, fysik: Som forskare inom gränslandet mellan statistik och datavetenskap har jag legat lite utanför fysik, kemi och medicin. Det gör det såklart extra roligt att priserna delvis hamnar nära min egen grupps forskning. Jag har anat, bland annat baserat på diskussioner med ledamöter i Sveriges unga akademi som använder AlphaFold, att det skulle kunna vara aktuellt för Nobelpris. AlphaFold har, som jag förstått det, verkligen revolutionerat forskningen gällande proteiners tredimensionella strukturer.
Lucie, chemistry: I am beyond excited, for different reasons. First, machine learning is revolutionizing all applications in our lives, and I am glad its application to the topics of protein design and protein structure prediction is recognized by the Committee. Second, this prize was awarded fast (AlphaFold was released in 2020), it recognizes how widely popular the methods have become in such a short amount of time, and is forward-looking in the sense that the technology behind it opens (or more precisely continues to open) the way for countless applications in all areas of biology. Many people in our community supported the fact that David Baker should be recognized for his pioneering work on protein design, and many were wondering how soon the prize would go to AlphaFold. I find it great that the Nobel Prize recognizes recent efforts.
Måns, fysik: Mitt eget forskningsområde ligger som sagt en bit utanför de klassiska ämnena för Nobelprisen, jag har lite svårt att ge ett mer insatt svar. I våras besökte vi CERN med SUA och jag måste säga att det var ett imponerande vetenskapligt samarbete att upptäcka och bekräfta existensen av Higgs-bosonen som belönades 2013. Det inspirerade mig.
Lucie, chemistry: The Prizes for the structure determination efforts that I mentioned in the answer to question 1 were important, and foundational for our research field. Even though this may appear self-centered, I was glad that the 2013 Nobel Prize in Chemistry was awarded for the development of multiscale models for complex chemical systems.I have always been convinced that computational methods play a crucial role in biology, and at times I have felt the challenges of this idea not being widely embraced by my colleagues in the field. In my view, the numerous Nobel Prizes in chemistry awarded for work on biological problems speak volumes!
Måns, fysik: Oj, vad svårt. Just fältet maskininlärning har ju kommit att utvecklas väldigt starkt de senaste åren och det finns flera mycket viktiga bidrag som gjort denna utveckling möjlig. Dock är detta framför allt bidrag inom tillämpad matematik, statistik och datavetenskap. Men med tanke på årets pris kanske fler inom dessa fält också kan komma att prisas.
Lucie, chemistry: If the Committee keeps awarding fast prizes, as has been the case recently, I am most excited for areas where discoveries have yet to be made. For example, a big area of excitement, currently, is the design of new molecules with high specificity and low side-effects using AI and machine learning. When a good solution is found, I think the Nobel Prize will come fast, as long as it is in accordance with Alfred Nobel's will.
Måns, fysik: När jag tänkt lite på det är min känsla att dessa priser kan ses som de första Nobelprisen där djupa neurala nätverk och maskininlärning har en central roll. Däremot tror jag inte att de kommer att vara de sista. Jag har just nu ett sabbatsår vid AI4Research vid Uppsala universitet. Det är slående hur djupa neurala nätverk och andra modeller från maskininlärningsfältet just nu börjar användas allt bredare inom ett stort antal ämnen, från naturvetenskap och medicin till samhällsvetenskap och humaniora. Jag tror att vi kan vara i början på en period där dessa typer av modeller kommer att bidra alltmer till nya upptäckter inom vetenskapen.
Djupa neurala nätverk ligger bakom mycket av den utveckling vi ser inom det som vardagligt brukar kallas för AI. Således står det nog klart för de flesta att det här kommer kunna ha en stor påverkan på samhället, till det bättre och om vi inte aktar oss, till det sämre. Generativa modeller som exempelvis ChatGPT bygger också de på djupa neurala nätverk och transformers, vilket gör det tydligt vilken betydelse framför allt fysikpriset har för samhället. När det gäller kemipriset är jag nog sämre på att ge rätt bild av vilken betydelse det kommer ha.
Lucie, chemistry: To me, the fact that advanced computations are applied everywhere and that these technologies open up many new possibilities is very clear. This is actually a good opportunity to mention those who did not get a prize but whose work makes this possible. As many of us are now aware, AI models are only as good as the data they are trained on, and as such, we should acknowledge all the people who have painstakingly acquired the data that these models have been trained on and those who have had the vision to create and maintain well-curated and open-access databases such as the protein data bank.
Really, I think Nobel Prizes should be awarded to large teams rather than a few individuals, but this is a topic for another time!
Fyll i formuläret för att få Sveriges unga akademis nyhetsbrev. Det utkommer upp till sex gånger per år. Du kan närsomhelst välja att avsluta din prenumeration.