Hluboké učení

Hluboké učení
Podtřída Strojové učení

Hluboká učení nebo učení do hloubky (v angličtině  : hluboké učení , hluboká učení strukturované , hierarchické learning ) je soubor metod strojového učení pokusem o modelu s vysokou úrovní abstrakce dat pomocí kloubových různých nelineárních transformací. Tyto techniky umožnily významný a rychlý pokrok v oblasti analýzy zvukovým nebo vizuálním signálem včetně rozpoznání tváří , na rozpoznávání hlasu , na počítačového vidění , je automatizované zpracování jazyka . V roce 2000 tento pokrok podnítil významné soukromé, akademické a veřejné investice, zejména ze strany GAFAM (Google, Apple, Facebook, Amazon, Microsoft).

Popis a pozadí

Hluboké učení je jednou z rodiny metod strojového učení založených na učení z datových modelů. Pozorování (například obraz) může být reprezentováno různými způsoby vektorem , maticí nebo datovým tenzorem, zejména podle:

Určité reprezentace a dobrá kapacita pro automatickou analýzu diferenciací zefektivňují výuku.

Výhled na hluboké učení technik nahrazuje některé práce, které jsou stále poměrně pracné, pro algoritmické modely supervizovaného učení , bez supervize (tj. Nevyžadující konkrétní znalosti o studovaném problému) nebo technikami extrakce hierarchických charakteristik.

Výzkum v této oblasti se snaží vybudovat lepší reprezentace reality a vytvořit modely schopné tyto reprezentace naučit z rozsáhlých neznačených dat. Některá z těchto zobrazení jsou inspirována nejnovějšími pokroky v neurovědě. Zhruba řečeno, jedná se o interpretace modelů zpracování informací a komunikačních modelů nervového systému, jako je způsob, jakým nervový systém vytváří spojení na základě přijatých zpráv, neurální reakce. A váha spojení mezi neurony v mozku.

Různé architektury hlubokého učení, jako je hluboká neuronová síť , neuronové sítě Konvolutivní „  konvoluční hluboké neuronové sítě  “ a sítě hluboké víry  (ne) mají několik aplikačních oblastí:

Zejména v těchto posledních dvou oblastech dosáhli velmi slibných výsledků.

Definice

Techniky hlubokého učení představují třídu algoritmů strojového učení, které:

Tyto architektury nyní umožňují dát datům „význam“ tím, že jim dávají podobu obrázků, zvuků nebo textů.

Hluboké učení využívá skryté vrstvy umělých neuronových sítí, „  omezené Boltzmannovy stroje  “ a sady složitých výrokových výpočtů. Algoritmy hlubokého učení jsou na rozdíl od mělkých algoritmů učení z důvodu počtu transformací prováděných na datech mezi vstupní vrstvou a výstupní vrstvou, kde transformace odpovídá jednotce zpracování definované váhami a prahovými hodnotami.

Historický

Koncept hlubokého učení se formoval v 2010s, s konvergence čtyř faktorů:

v října 2015, program AlphaGo , který byl „naučen“ hrát hru Go díky metodě hlubokého učení, překonal evropského šampiona Fan Hui o 5 her na 0. Vbřezna 2016, stejný program porazí mistra světa Lee Sedola o 4 hry na 1.

Oblasti použití

Hluboké učení se týká různých odvětví IKT , včetně:

Metoda Deep Learning se dnes používá k vývoji motorů pro automatický překlad.

Hluboké učení může například pomoci:

Jednou z aplikací hlubokého učení pro veřejné zdraví je projekt Horus společnosti Eyra. Jedná se o přenosné zařízení využívající platformu NVidia Jetson, které zrakově postiženým nebo nevidomým pomáhá orientovat se a rozpoznávat lidi nebo předměty přepisem zvuku pořízeného kamerou do zvuku. Vazby mezi hlubokým učením a teorií her navázal Hamidou Tembine zejména pomocí středních her.

Ve fyzice se pro výzkum exotických částic používá hluboké učení .

Reakce

Poukazuje se na možná škodlivá použití hlubokého učení. Stává se tak možné vložit tvář člověka na jiného, ​​bez jeho vědomí, a přinutit ho dělat nebo říkat věci, které neudělal (jako ve filmu Běžící muž z roku 1986), přičemž hluboké učení obnovuje pohyby tvář tím, že vykládku realistické. Několik hereček jako Gal Gadot, Emma Watson, Cara Delevingne, Emma Stone, Natalie Portman nebo Scarlett Johansson se tak ocitly pod obličejem pornografické herečky používající software dostupný široké veřejnosti zvané Deepfakes , což vyvolalo obavy z generalizace takové použití umožňující komukoli poškodit pověst jiné osoby. Tváří v tvář tomuto nebezpečí několik platforem, jako je PornHub, Twitter a Reddit, reagovalo zákazem zveřejňování takových videí a uživatel „deepfakes“, tvůrce stejnojmenného softwaru umožňující každému uživateli vytvářet falešná pornografická videa., Byl reddit zakázán a jeho vyhrazené vlákno odstraněno.

V roce 2019 vydal OpenAI několik vysoce výkonných umělých inteligencí pro generování syntetického textu ze souhrnu. Zatímco vědci sdružení vyjádřili obavy ohledně možného odklonu tohoto typu technologie, vzdali se sdílení plné verze umělé inteligence.

Poznámky a odkazy

  1. „  hluboké učení  “ , Le Grand Dictionnaire terminologique , Office Québécois de la langue française (přístup 28. ledna 2020 ) .
  2. [PDF] Komise pro obohacení francouzského jazyka , "Vocabulaire de l'Intelligence Artifique (seznam výrazů, výrazy a definice přijaté)", Journal officiel de la République française n o  0285 du9. prosince 2018[ číst online ] .
  3. "  Hluboké učení pro získávání informací v Bayesovských závěrech | androide  “ , na androide.lip6.fr (přístup 6. října 2020 )
  4. „hluboké učení“: spodní straně rušivé technologie , prospektivní analýzy, Futurible.
  5. AG Baydin, BA Pearlmutter, AA Radul a JM Siskind (2015), „  Automatická diferenciace ve strojovém učení: průzkum  “, arXiv preprint arXiv: 1502,05767. 185.
  6. J. Zhou a OG Troyanskaya (2015), „  Predikce účinků nekódujících variant s sekvenčním modelem založeným na hlubokém učení  “, Nature Methods , 12 (10), 931-934 ( abstrakt ).
  7. B. Alipanahi, A. DeLong MT Weirauch a BJ Frey (2015), „  Předpovídání sekvenční specifika DNA a RNA vázající proteiny hlubokým učení  “, Nature Biotechnology ( abstrakt ).
  8. J. Schmidhuber (2015), „  Hluboké učení v neuronových sítích: přehled  “ , Neural Networks , 61, 85-117.
  9. Collobert, R. (2011). Hluboké učení pro efektivní diskriminační analýzu . V AISTATS'2011. 95.
  10. DH Ackley, GE Hinton a TJ Sejnowski (1985), „  Algoritmus učení pro stroje Boltzmann  “, Cognitive Science , 9, 147 {169. 590.
  11. USI Events , „  Deep learning - Yann LeCun, at USI  “ , na www.youtube.com
  12. David Larousserie a Morgane Tual, „  První porážka profesionála proti umělé inteligenci  “, Le Monde ,27. ledna 2016( číst online ).
  13. William Audureau , „  Hra go: pro Lee Sedola je vítězství stroje méně taktické než psychologické  “, Le Monde.fr ,15. března 2016( ISSN  1950-6244 , číst online , konzultováno 16. března 2016 ).
  14. D. Ciresan, U. Meier, J. Masci a J. Schmidhuber (2012), „  Vícesloupcová hluboká neurální síť pro klasifikaci dopravních značek  “, Neural Networks , 32, 333-338. 22, 195.
  15. M. Cai, Y. Shi a J. Liu (2013), „  Deep maxout neurural networks for speech recognition  “ v časopise Automatic Speco Recognition and Understanding ( ASRU ), 2013 IEEE Workshop na, strany 291-296. IEEE. 198.
  16. P. Baldi a S. Brunak (1998), „  Bioinformatika, přístup strojového učení  “, MIT Press , 579.
  17. (in) Anindya Gupta , Philip J. Harrison , Håkan Wieslander a Nicolas Pielawski , „  Deep Learning in Image Cytometry: A Review  “ , Cytometry Part A , sv.  95, n O  4,2019, str.  366–380 ( ISSN  1552-4930 , DOI  10.1002 / cyto.a.23701 , číst online , přístup 23. dubna 2019 )
  18. D. Held, S. Thrun a S. Savarese (2015), „  Deep Learning for Single-View Instance Recognition  “ , předtisk arXiv arXiv: 1507,08286.
  19. WY Lim, A. Ong, LL Soh a A. Sufi (2016), „  Hlasy učitelů a změny: struktura a agenturní dialektika, které formovaly pedagogiku učitelů směrem k hlubokému učení  “, v Budoucí učení na základních školách (str. 147) -158), Springer Singapur.
  20. I. Mariolis, G. Peleka, A. Kargakos a S. Malassiotis (červenec 2015). Rozpoznání pozice a kategorie vysoce deformovatelných objektů pomocí hlubokého učení . In Advanced Robotics (ICAR), 2015 International Conference on (pp. 655-662). IEEE ( shrnutí ).
  21. SE Kahou, X. Bouthillier, P. Lamblin, C. Gulcehre, V. Michalski, K. Konda,… a Y. Bengio (2015). EmoNets: Multimodální přístupy hlubokého učení pro rozpoznávání emocí ve videu . arXiv předtisk arXiv: 1503.01800.
  22. M. Oberweger, P. Wohlhart a V. Lepetit (2015), „  Hands Deep in Deep Learning for Hand Pose Estimation  “ , předtisk arXiv arXiv: 1502,06807.
  23. A. Kendall a R. Cipolla (2015), „  Modelování nejistoty v hlubokém učení pro přemístění kamery  “ , předtisk arXiv arXiv: 1509,05909 ( abstrakt ).
  24. A. Halpern a JR Smith (říjen 2015), „  Deep Learning, Sparse Coding a SVM for Melanoma Recognition in Dermoscopy Images  “, v Machine Learning in Medical Imaging: 6. mezinárodní workshop , MLMI 2015, organizovaný ve spolupráci s MICCAI 2015, Mnichov, Německo,5. října 2015, Proceedings (Vol. 9,352, s. 118), Springer ( abstrakt ).
  25. (in) Laetitia Jeancolas, Dijana Petrovska-Delacrétaz Graziella Mangone, Badr-Eddine Benkelfat, Jean-Christophe Corvol, Mary Vidailhet Stéphane Lehéricy a Habib Benali, „  X-Vectors: New Quantitative Biomarkers for Early Parkinson's Disease Detection From Speech  “ , Frontiers v Neuroinformatics , sv.  15,2021( ISSN  1662-5196 , DOI  10.3389 / fninf.2021.578369 , číst online )
  26. M. Veres, G. Lacey a GW Taylor (červen 2015), „  Deep Learning Architectures for Soil Property Předpovědi  “ [PDF] , Computer and Robot Vision ( CRV ), 12. konference 2015, (str. 8-15), IEEE ( shrnutí ).
  27. „  DeepArt, počítač, který kreslí váš portrét  “ , na https://actu.epfl.ch/ ,11. dubna 16(zpřístupněno 5. července 2016 )
  28. Olivier Lascar, „  Systém vizuálního rozpoznávání Horus určený pro nevidomé vděčí za vše„ hlubokému učení “  “ , na stránkách Sciences et Avenir .fr ,9. ledna 2017(zpřístupněno 21. února 2018 ) .
  29. H. Tembine , „  Deep Learning Meets Game Theory: Bregman-Based Algorithms for Interactive Deep Generative Adversarial Networks  “, IEEE Transactions on Cybernetics ,2018, str.  1–14 ( DOI  10.1109 / TCYB.2018.2886238 , číst online , přistupováno 14. října 2019 )
  30. P. Baldi, P. Sadowski a D. Whiteson (2014), „  Hledání exotických částic ve fyzice vysokých energií s hlubokým učením  “, Nature Communications , 5. 23.
  31. (en-US) „  Facial Uznání za pornohvězdy Je Privacy Nightmare jednou dojde  “ , deska ,11. října 2017( číst online , konzultováno 26. ledna 2018 )
  32. „  Porno s hvězdami v něm není na internetu vítáno  “, madmoiZelle.com ,8. února 2018( číst online , konzultováno 8. února 2018 )
  33. (in) „  Lepší jazykové modely a jejich důsledky  “ na OpenAI ,14. února 2019(zpřístupněno 23. dubna 2019 )

Podívejte se také

Související články

Pojmy

Software Teoretici

externí odkazy

Bibliografie

  • (en) Ian J. Goodfellow, Yoshua Bengio a Aaron Courville, Deep Learning , MIT Press,2016( ISBN  0262035618 , číst online ) [ detail vydání ]
  • Y. Bengio (2009), Learning Deep Architectures for AI , Now Publishers , 149, 195.