Myrtle.ai atteint une latence de 5,1 microsecondes dans un benchmark d'inférence de LSTM financier avec VOLLO

CAMBRIDGE, Angleterre, 1er juin 2023 /PRNewswire/ -- Myrtle.ai, un leader reconnu dans l'accélération de l'inférence d'apprentissage automatique, a annoncé aujourd'hui qu'une pile avec son produit VOLLOtm a récemment été auditée par STAC®, une autorité de référence de premier plan pour le secteur financier.[1] Il s'agit de la première solution FPGA avec des résultats publiés pour la suite Tacana de STAC-MLtm et elle a obtenu des résultats de latence incroyables. Le benchmark STAC-MLtm Markets (Inference) représente les besoins des entreprises des marchés financiers qui utilisent l'inférence de l'apprentissage automatique pour réagir rapidement aux changements des marchés.

Créés par le STAC Benchmark Counciltm, qui comprend les plus grandes banques mondiales, des maisons de courtage, des bourses, des hedge funds, des boutiques de trading pour compte propre et des gestionnaires d'actifs, ainsi que plus de 50 fournisseurs de technologies de pointe, ces benchmarks STAC-MLtm Markets (Inference) sont un outil utilisé pour comparer objectivement différentes plateformes en matière de latence, de débit, d'efficacité et de qualité de l'inférence d'apprentissage automatique (ML).

VOLLO a obtenu des latences très faibles, jusqu'à 5,08 microsecondes, avec un débit supérieur à 800 000 inférences/seconde.[2] Cette faible latence et ce débit élevé permettent aux utilisateurs de prendre des décisions plus intelligentes en utilisant des modèles plus complexes plus rapidement qu'auparavant, ce qui leur donne un avantage concurrentiel  dans le domaine du trading, de l'analyse des risques, des cotations et de nombreuses autres activités liées au trading. Conçu pour une installation simple et rapide sur des serveurs colocalisés, VOLLO permet également de réduire l'espace en rack et la consommation d'énergie, deux ressources de premier ordre dans de tels endroits.

Au STAC Summit de Londres le 4 mai, où les résultats ont été annoncés par STAC, Myrtle.ai a fait une brève présentation sur la façon dont les entreprises financières sans aucune compétence FPGA peuvent bénéficier des latences extrêmement faibles grâce à un produit FPGA comme VOLLO.

VOLLO fonctionne sur une carte d'accélérateur PCIe de facteur de forme standard avec les FPGA Intel® Agilextm 7, dont 4 peuvent être installés sur un serveur 1U. VOLLO peut être configuré avec des modèles formés par le client, en utilisant les architectures de modèles de la base de modèles LSTM, ce qui permet aux utilisateurs de déployer une gamme de charges de travail spécifiques aux exigences de leurs applications via un processus d'exportation à partir des flux d'outils d'apprentissage automatique standard. Il peut prendre en charge jusqu'à 12 modèles parallèles par carte accélératrice FPGA installée dans le système, ce qui permet un maximum de 48 modèles parallèles pour un système avec 4 cartes installées.

Le FPGA au coeur de VOLLO est le FPGA Intel® Agilextm 7 série F ? la première famille de FPGA de l'industrie contenant un support BFLOAT16 natif renforcé. Pour les applications d'IA nécessitant une faible latence, comme celles du benchmark STAC-ML, l'utilisation du bfloat16 renforcé diminue la latence et augmente le débit. Peter Baldwin, directeur général de Myrtle.ai, a déclaré : « Depuis l'annonce de nos premiers résultats du benchmark STAC-ML en décembre, nous collaborons désormais avec les entreprises qui souhaitent acquérir un avantage concurrentiel en répondant rapidement aux données du marché en temps réel. Ces entreprises savent qu'elles veulent bénéficier de l'avantage de latence fourni par les FGPA Intel, mais souvent elles ne disposent pas des concepteurs FPGA dont elles auraient besoin pour créer leurs propres solutions. VOLLO résout ce problème. »

« Les résultats exceptionnels de Myrtle.ai au benchmark STAC-ML Markets (Inference) attestent de son expertise combinée en FPGA et en apprentissage automatique, et nous sommes heureux qu'ils aient choisi les  FPGA Intel® Agilextm 7 pour mettre en avant la valeur du produit VOLLO », a déclaré Jim Dworkin, vice-président et directeur général de la division Cloud & Enterprise Acceleration au sein du groupe des solutions programmables d'Intel. Toutes les entreprises de services financiers dans le vaste écosystème que STAC cultive bénéficieront de la faible latence et de l'efficacité de débit élevée offertes par VOLLO, ce qui leur permettra de prendre des décisions commerciales plus intelligentes. »

« Les benchmarks STAC sont définis par les sociétés financières en fonction de leurs besoins commerciaux, et ils ont conçu ce benchmark en vue de comparer les performances d'inférence sur plusieurs architectures, a commenté Peter Nabicht, président de STAC®. Myrtle.ai a désormais fourni des résultats à faible latence dans les deux suites de benchmark d'inférence STAC-ML, mettant en évidence les capacités de la technologie FPGA et fournissant de précieuses données de performance aux sociétés financières qui font face à l'évolution rapide des marchés. »

VOLLO est disponible dès aujourd'hui et des évaluations peuvent être organisées. Pour plus de détails, rendez-vous sur myrtle.ai/ fintech ou contactez Myrtle.ai dès aujourd'hui à l'adresse [email protected].

Pour plus d'informations sur le STAC et le STAC Benchmark Council, consultez le site www.STACresearch.com. Les résultats complets du benchmark sont disponibles dans le rapport STAC (SUT ID MRTL230426), sur www.STACresearch.com/MRTL230426.

À propos de Myrtle.ai

Myrtle.ai est une société de logiciels d'IA/ML qui fournit des accélérateurs d'inférence de classe mondiale sur des plateformes FPGA provenant de tous les principaux fournisseurs de FPGA. Grâce à son expertise en matière de réseaux neuronaux sur l'ensemble des réseaux ML, Myrtle a fourni des accélérateurs pour les technologies financières, le traitement de la parole et la recommandation.

VOLLO, VOLLO Accelerator et le logo VOLLO sont des marques commerciales de Myrtle.ai.

« STAC » et tous les noms de STAC sont des marques commerciales ou des marques déposées du Securities Technology Analysis Center, LLC.

Intel, le logo Intel et les autres marques Intel sont des marques déposées d'Intel Corporation ou de ses filiales.

[1] www.STACresearch.com/MRTL230426

[2] STAC-ML.Markets.Inf.T.LSTM_A.4.LAT.v1 et STAC-ML.Markets.Inf.T.LSTM_A.4.TPUT.v1

Photo : https://mma.prnewswire.com/media/2090072/Vollo_Graphic.jpg
Logo : https://mma.prnewswire.com/media/1969391/Myrtle_Software_Limited_Logo.jpg