Amazon investe em tecnologia de AI generativa para revolucionar modelos linguísticos
A Inteligência Artificial Generativa tem sido um tema de grande interesse nos últimos meses, tanto para consumidores quanto para empresas, e está presente na consciência coletiva de muitos indivíduos. Mas essa tecnologia não surgiu do nada. A pesquisa em aprendizado de máquina vem sendo feita há décadas, e na Amazon, por exemplo, o aprendizado de máquina é algo bem desenvolvido há muito tempo.
Para se chegar onde estão nessa área, foram necessários alguns avanços importantes. Em primeiro lugar, foi necessário ter acesso à computação em nuvem para ter acesso a grandes quantidades de dados necessários para deep learning. Em seguida, foram desenvolvidas redes neurais que pudessem entender e aprender padrões. Isso desbloqueou algoritmos mais complexos, como os usados para reconhecimento de imagem. Por fim, foi introduzido o conceito de “transformers”.
Transformers aceleram treinamento e permitem criação de modelos mais precisos
Os transformers são responsáveis por uma mudança significativa na área de AI generativa. Ao contrário das RNNs (Redes Neurais Recorrentes), que processam os dados sequencialmente, os transformers podem processar várias sequências ao mesmo tempo, acelerando muito os tempos de treinamento e permitindo a criação modelos maiores e mais precisos capazes de entender conhecimentos humanos e realizar tarefas complexas, como escrever poemas ou depurar códigos.
Em uma conversa recente, Werner Vogels, CTO da Amazon, e Swami Sivasubramanian, líder de serviços de análise de banco de dados e aprendizado de máquina na AWS, falaram sobre o amplo cenário da AI generativa e como a Amazon está tornando modelos linguísticos grandes mais acessíveis. Eles também discutiram a customização de silício para ajudar a reduzir custos, acelerar o treinamento dos modelos e aumentar a eficiência energética. Eles afirmam que os modelos linguísticos grandes se tornarão parte central de todas as aplicações nos próximos anos.
Swami liderou o desenvolvimento do DynamoDB original anos atrás no seu primeiro dia na Amazon. Agora ele lida com tecnologias revolucionárias de AI e machine learning. A próxima etapa importante é justamente a que está acontecendo hoje em Aprendizado de Máquina. A AI generativa tem sido muito discutida ultimamente. Grandes modelos linguísticos são treinados com centenas de milhões – ou até bilhões – de parâmetros que permitem possível escala.
Amazon busca reduzir custos e aumentar eficiência energética
Ainda é cedo para avaliar as mudanças que a AI generativa irá trazer, mas é emocionante ver possibilidades como a melhoria de intenção de reconhecimento e síntese da fala. A customização de silício é outra maneira pela qual a Amazon está procurando acelerar o uso dessa tecnologia em seus serviços, o que pode levar a uma maior eficiência energética e redução de custos.
Em resumo, o aprendizado de máquina tem sido desenvolvido pela AWS há muito tempo, com a Amazon usando-o para personalização no site de varejo da Amazon e controle robótico em seus centros de atendimento. O uso crescente de AI generativa tornou-se presente na consciência coletiva nas discussões realizadas por empresas. Para isso, foram necessários avanços em redes neurais, computação em nuvem e transformers. A AI generativa tem revolucionado grandes modelos linguísticos através do fortalecimento dos padrões e da possibilidade de treiná-los mais rapidamente em larga escala.
| Assunto | Informação |
|---|---|
| O que é AI generativa? | Tecnologia que permite a criação de modelos linguísticos grandes capazes de entender conhecimentos humanos e realizar tarefas complexas. |
| Como a Amazon usa o aprendizado de máquina? | Para personalização no site de varejo, controle robótico em centros de atendimento e melhoria do reconhecimento de intenção e síntese da fala da Alexa. |
| Quais foram os avanços necessários para chegar à AI generativa? | Redes neurais, computação em nuvem e transformers. |
| Qual a importância dos transformers? | Permitem processar várias sequências ao mesmo tempo, acelerando muito os tempos de treinamento e permitindo a criação de modelos maiores e mais precisos. |
| Como a Amazon está tornando modelos linguísticos grandes mais acessíveis? | Através da customização de silício para ajudar a reduzir custos, acelerar o treinamento dos modelos e aumentar a eficiência energética. |
Com informações do site All Things Distributed.