Imagine viver em uma era do dedo onde armazenar e enviar arquivos leva uma perpetuidade. Isso não parece muito lícito, não é? Felizmente, não precisamos mais nos preocupar com isso. A forma uma vez que compartilhamos arquivos na web não seria uma vez que é hoje se não fosse por Léon Bottou.
Tal uma vez que Yann LeCun e outras figuras proeminentes na indústria da aprendizagem automática, Léon Bottou deixou a sua marca no campo da lucidez sintético. Ele é o varão que popularizou e comprovou a eficiência do algoritmo de otimização no aprendizagem profundo.
Neste item, você descobrirá de onde ele veio, uma vez que começou, quais são suas contribuições que o tornaram tão valioso na indústria de IA e muito mais. Portanto agora vamos encetar e saber esse rosto.
De onde ele veio
Léon Bottou é um observador da computação francesismo nascido em 1965 em Saint Germain du Teil. Não há muito sobre ele em seus primeiros anos, mas o que descobri em sua biografia é que ele passou a puerícia em La Canourgue e frequentou diferentes escolas em Rodez, Clermont-Ferrand, École Sainte Geneviève e Versalhes.
Avançando para 1987, ele obteve sua pós-graduação em engenharia na École Polytechnique, depois obteve seu mestrado em Matemática Fundamental e Aplicada e Ciência da Computação em 1988 na École Normale Supérieure e, finalmente, seu doutorado. em Ciência da Computação em 1991 na Université Paris-Sud.
Dada a sua formação educacional, Léon Bottou era um verdadeiro observador da computação em formação, que construiu uma base sólida para a grande mudança que queria fazer, o que agora ele fez.
Uma vez que começou sua curso em IA
Foi em 1986 que Léon Bottou realmente começou a trabalhar com aprendizagem profunda; isso remonta ao ano anterior à obtenção de sua pós-graduação. Porém, inferior está o cronograma de sua curso posteriormente o término dos estudos.
- 1991: Começou sua curso com o Departamento de Pesquisa de Sistemas Adaptativos na AT&T Bell Labs, empresa global de pesquisa, inovação e desenvolvimento tecnológico
- 1992: Ele retornou à França e tornou-se presidente da Neuristique, uma empresa pioneira em software de mineração de dados e outras ferramentas de aprendizagem de máquina.
- 1995: Ele voltou para o AT&T Bell Labs e desenvolveu um paradigma de aprendizagem chamado Rede de transformadores gráficos (GTN), que aplicou em escrita e reconhecimento óptico de caracteres (OCR). Mais tarde, ele usou esse método de aprendizagem de máquina em seu item sobre reconhecimento de documentos, de autoria de Yann LeCun, Yoshua Bengio e Patrick Haffner em 1998.
- 1996: No AT&T Labs, seu trabalho se concentrou principalmente na tecnologia de compressão de imagem DjVu. Esta tecnologia é usada hoje por alguns sites, incluindo o Registo da Internetuma livraria do dedo americana que distribui grandes volumes de documentos digitalizados.
- 2000: Ele deixou o Neuristique nas mãos de Xavier Driancourt, que conseguiu mantê-lo funcionando até 2003. Depois disso, a equipe o deixou de lado, mas seu legado continuou vivo. Seu primeiro resultado, o Simulador de rede neural SNajudou a desenvolver rede neural convolucional usado para reconhecimento de imagem no setor bancário e nos primeiros protótipos do sistema de compressão de imagens e documentos.
- 2002: Léon tornou-se observador pesquisador nos Laboratórios NEC, onde estudou as teorias e aplicações de aprendizagem de máquina com conjuntos de dados em grande graduação e diferentes métodos de otimização estocástica.
- 2010: Ele deixou os Laboratórios NEC e começou sua jornada na Microsoft ao se juntar à equipe do Ad Center em Redmond, Washington.
- 2012: Ele se tornou pesquisador principal da Microsoft Research na cidade de Novidade York, onde continuou suas descobertas e experimentações com aprendizagem de máquina.
As famosas contribuições de Léon
Léon não é espargido unicamente por seu trabalho em compressão de dados. Ele fez muitas outras coisas no mundo da tecnologia. A seguir estão suas contribuições mais notáveis que ajudaram no chegada da IA e de outros sistemas avançados:
Linguagem de programação superabundante
Além de ser um pioneiro em sistemas avançados de IA, você sabia que Léon também foi desenvolvedor de uma linguagem de programação chamada Superabundante? Lush é uma linguagem de programação orientada a objetos (OOP) projetada para desenvolver aplicações numéricas e gráficas em larga graduação. Portanto, tecnicamente, é para cientistas, pesquisadores e engenheiros.
Lush não veio do zero, no entanto. É progénito direto de SN (um sistema usado para simulação de rede neural)que Léon desenvolveu originalmente com Yann LeCun em 1987.
Descida Gradiente Estocástica
A descida gradiente estocástica (SGD) é um algoritmo de aprendizagem em IA que Léon Bottou amplamente utilizou e popularizou em seu trabalho. SGD é um método de otimização usado para treinar modelos de IA processando dados em pequenos lotes em vez de um todo o conjunto de dados de uma só vezpermitindo assim ajustes mais eficientes de parâmetros na aprendizagem em larga graduação.
Eu sei que é uma teoria complexa, mas pense desta forma:
Uma vez que comemos comida?
Não engolimos inteiro, patente? Em vez disso, mastigamos e mordemos em tamanhos menores até que seja mais fácil de digerir. É logo que o SGD funciona em uma explicação extremamente simplificada. Ele alimenta a máquina com pedaços menores de dados que são mais fáceis de reter do que dados grandes e inteiros.
Ou por outra, o SGD também oferece suporte ao aprendizagem online que permite atualizações em tempo real no padrão de treinamento. Por motivo do SGD, o aprendizagem de máquina agora é eficiente e escalável. Os dados de treinamento são mais fáceis de caber na memória e computacionalmente mais rápidos de processar.
Portanto porque é que esta tributo de Léon é tão importante?
Muito, esse método de aprendizagem de máquina é basicamente o que levou ao desenvolvimento de tecnologias avançadas que usamos hoje, uma vez que compressão de dados, reconhecimento de fala, veículos autônomos, publicidade online, até mesmo saúde e muito mais. Resumindo, oriente algoritmo teve um impacto de longo alcance, além de ser unicamente um método para treinar modelos de IA.
E por falar em compactação de dados, vamos ver uma vez que ele introduziu uma atualização para melhor nos arquivos que compartilhamos online.
Compressão de documentos DjVu
Se quisermos falar sobre uma das coisas que melhor destaca as nobres contribuições de Léon Bottou na lucidez sintético e beneficia o público mais grande, é definitivamente DjVu tecnologia. Pronunciado uma vez que “já visto”, DjVu refere-se a um formato de registo de computador que compacta arquivos grandes em documentos ou imagens digitalizados de subida solução.
DjVu substitui PDF, JPEG e outras extensões de registo e permite melhor distribuição de documentos e imagens online. Devido ao seu tamanho relativamente pequeno, ele também baixa e renderiza mais rápido e usa menos memória.
Além de fabricar DjVu com Patrick Haffner e Yann LeCun, Bottou contribui para DjVuLibre, uma implementação de código franco do DjVu sob a GNU General Public License (GPL). DjVuLibre possui um visualizador independente, plug-ins de navegador, codificadores, decodificadores e outros utilitários que beneficiam sites acadêmicos, governamentais, comerciais e não comerciais em todo o mundo.
Software de código franco LaSVM
O máquina de vetores de suporte em grande graduaçãoou LaSVM, é um software de código franco desenvolvido por Léon Bottou. Ele desenvolveu essa instrumento principalmente para suportar big data que pode ser muito pesado para ser processado pela memória do computador. LaSVM lida com grandes volumes de conjuntos de dados por meio de classificação e retorno.
Comparado a um solucionador SVM normal, o LaSVM é consideravelmente mais rápido no processamento de toneladas de informações em uma rede.
Seus prêmios, publicações e patentes
Ele realmente é um gigante da tecnologia que está por trás dos avanços tecnológicos do mundo contemporâneo, uma vez que a compactação de dados SGD e DjVu, para referir alguns. Por suas contribuições, ele conquistou diversos reconhecimentos, uma vez que os seguintes:
Ele também fez muitas pesquisas em sua extensão. Cá estão alguns dos artigos de sua autoria e coautoria com seus colegas:
- Vulnerabilidade Adversarial de Primeira Ordem de Redes Neurais e Dimensão de Ingressão (2019)
- Métodos de otimização para aprendizagem de máquina em larga graduação (2018)
- Aprendendo incorporações de imagens usando redes neurais convolucionais para semiologia multimodal aprimorada (2014)
- Aprendizagem de máquina em grande graduação com descida gradiente estocástica (2010)
- As compensações da aprendizagem em larga graduação (2008) – o jornal que ganhou o Prêmio Teste do Tempo em 2018
- Aprendizagem baseada em gradiente aplicada ao reconhecimento de documentos (1998)
- Aprendizagem de gradiente estocástico em redes neurais Léon Bottou (1991)
Além da pesquisa, Bottou também solicitou patentes. Inferior estão algumas de suas patentes que já foram concedidas pelo Escritório de Marcas e Patentes dos Estados Unidos (USPTO).
Seus pensamentos e sua opinião sobre a IA hoje
Léon Bottou ressoa com Geoffrey Hinton, Yann LeCun e Yoshua Bengio, que compartilharam seus sentimentos sobre o uso da IA. A sua abordagem, no entanto, dá maior ênfase às implicações do treino de modelos de IA com demasiados dados.
Ele assumiu uma perspectiva dissemelhante sobre a questão, abordando os preconceitos e ineficiências em conjuntos de dados de treinamento excessivos. Ele reconheceu as consequências do aprendizagem e compreensão da IA “Texto:% s” que estão muito além da linguagem que conhecemos desde a existência dos humanos, e é por isso que ele está em procura de uma solução.
“Também é verdade que a aprendizagem profunda atingirá os seus limites porque atualmente necessita de demasiados dados. Se for necessário mais texto do que um ser humano pode ler em muitas vidas para treinar um sistema de reconhecimento de linguagem, um pouco já está inverídico. Muito, acho que deslindar qual teoria surge posteriormente o aprendizagem profundo é o maior problema da IA. É por isso que estou trabalhando neste problema.”
—Léon Bottou
Segmento da sua solução é o seu novo item com outro investigador de IA, Bernhard Schölkopf, que visa compreender melhor a linguagem proveniente e as suas ligações com a IA. Léon também está trabalhando para esclarecer as relações entre aprendizagem e raciocínio reduzir as inconsistências nas estruturas de reconhecimento de padrões e prometer que as IA sejam tão fiáveis quanto provável.
Onde ele está agora?
No momento em que escrevo, ele ainda é afiliado à equipe Facebook AI Research e MS Ad Center Science, e mantenedor do DjVuLibre. Ele ainda faz segmento da comunidade de IA que promove avanços no desenvolvimento de IA, mas está focado em fazê-lo em maneiras mais responsáveis. Apesar de suas aspirações de ver o mundo crescer com a IA, ele não permitirá que ela domine ou derrote a nossa espécie.
Atualmente, ele está orientando o progresso da IA. E enquanto ele tem a missão de virar os poderes inimagináveis, mas possíveis, da IA que podem não estar alinhados com o que é patente e bom para a humanidade, o que podemos fazer é ser utilizadores responsáveis da tecnologia de IA e esperar que as coisas acabem muito.
