Technologie
Le traitement du langage naturel recouvre un ensemble de techniques qui permet à l’ordinateur de comprendre une voix, un texte, et d’agire dessus.
Quelques exemples pour se faire une idée:
- Identifier le sentiment général des commentaires des utilisateurs, en fonction du temps et des produits.
- Annoter, ou classer, les documents automatiquement en extrayant des méta-données par lecture du texte.
- Identifier une demande d’un utilisateur et choisir la réponse à lui apporter.
- Retranscrire par écrit une demande orale et agir en conséquence
- Répondre à des questions en extrayant des informations en lien depuis un grand corpus de documents
- Écrire des résumés de documents
- …
Logiroad.ai a de l’expérience dans le développement de modèles basés sur plusieurs technologies. Des modèles légers, dans lequel chaque mot est simplement indexé par sa position dans un dictionnaire, aux modèles les plus avancés, comme les Transformers, qui permet de transformer des phrases entières en vecteurs numériques synthétisant l’information qu’elles contiennent et en intégrant les informations contextuelles de chaque mot.
Pour accélérer l’entraînement de ces modèles, nous démarrons avec des réseaux pré-entraînés sur des corpus de texte gigantesques. Comme le réseau BERT, entraîné par Google, qui a “lu” tout Wikipédia et plusieurs bibliothèques de livres. A cet entraînement, nous ajoutons un second passage spécifique au domaine. par exemple, la lecture de milliers de documents techniques en lien avec le domaine concerné.