Hoe kan Amazon aangepaste AWS -chips gebruiken om Microsoft en Google in het AI -veld in te halen?
Volgens CNBC ontwerpt het Amazon -team twee chips, codenaam -conclusie en training, voor het trainen en versnellen van generatieve kunstmatige intelligentie.Deze chips bieden een alternatieve optie voor Amazon Cloud Services AWS -klanten om grote taalmodellen te trainen in plaats van NVIDIA grafische processors.Momenteel is de inkoop van GPU's steeds moeilijker en duurder geworden, en deze aangepaste chips kunnen AWS -klanten alternatieve oplossingen bieden voor het trainen van grote taalmodellen op NVIDIA -chips.
Adam Selipsky, CEO van Amazon Cloud Technology, zei in juni dit jaar: "De wereld hoopt meer chips te hebben voor generatieve kunstmatige intelligentie, of het nu GPU's is of de zelf ontwikkelde chips van Amazon zijn die we ontwerpen
Andere bedrijven hebben echter snellere actie ondernomen en hebben meer fondsen geïnvesteerd om zaken te doen vanuit de golf van generatieve kunstmatige intelligentie.Toen Openai vorig jaar in november Chatgpt lanceerde, kreeg Microsoft wijdverbreide aandacht voor zijn chatbots en $ 13 miljard investering in Openai.Het bedrijf heeft snel generatieve kunstmatige intelligentiemodellen aan zijn producten toegevoegd en ze in februari van dit jaar samengevoegd tot Bing.
In dezelfde maand lanceerde Google zijn eigen grootschalige taalmodel, Bard, en investeerde vervolgens $ 300 miljoen in Openai-concurrent Anthropic.
Het was pas in april dat Amazon de lancering van zijn eigen grote taalmodelreeks (Titan) en een bedlock -service aankondigde om ontwikkelaars te helpen generatieve AI -verbeteringssoftware te gebruiken.
Amazon is niet gewend om de markt te achtervolgen.Amazon is gewend om de markt te creëren.Ik denk dat ze voor het eerst sinds lange tijd in een nadeel zijn en werken hard om in te halen, "zei Chirag DeKate, vice -president -analist bij Gartner.
Meta heeft onlangs zijn eigen LLAMA 2 grote modellen uitgebracht.Deze open source chatgpt -concurrent kan nu worden getest op Microsoft's Azure Public Cloud.
Chips zijn 'echte differentiatie'
Dekate verklaarde dat de aangepaste chips van Amazon op de lange termijn het een voordeel kunnen geven op het gebied van generatieve kunstmatige intelligentie,
Ik denk dat de echte differentiatie ligt in de technische mogelijkheden die ze uitoefenen, omdat Microsoft geen aangepaste chips heeft voor training of inferentia
AWS begon al in 2013 stilletjes aangepaste chips te produceren, met behulp van een gespecialiseerde hardware genaamd Nitro, die nu de best verkochte AWS-chip is.Amazon beweert dat elke AWS -server er minstens één heeft, met een totaal gebruik van meer dan 20 miljoen.
In 2015 heeft Amazon de Israëlische chip -startup Annapurna Labs overgenomen.In 2018 lanceerde Amazon de ARM -gebaseerde serverchip Graviton, een concurrent van X86 CPU's van reuzen zoals AMD en Intel.
ARM kan een hoog enkelcijferige cijfer of zelfs 10% van de totale serververkopen goedmaken, met een groot deel van Amazon.Daarom doen ze het vrij goed in termen van CPU, "zei Stacy Rasgon, senior analist bij Bernstein Research.
Ook in 2018 lanceerde Amazon chips gericht op kunstmatige intelligentie.Twee jaar geleden kondigde Google de lancering aan van zijn eerste Tensor Processor Unit (TPU).Microsoft heeft nog niet aangekondigd dat het de Athena AI -chip ontwikkelt, die naar verluidt is ontwikkeld in samenwerking met AMD.
Matt Wood, vice -president van Amazon Products, legde het gebruik van de training en inferentia -chips uit.
Machine learning is verdeeld in deze twee verschillende fasen.Daarom traint u modellen voor machine learning en leidt u vervolgens deze getrainde modellen af, "zei Wood. In vergelijking met elke andere methode voor het trainen van machine learning-modellen op AWS, heeft training de kosteneffectiviteit verbeterd met ongeveer 50%
Na de release van Inferentia in 2019 (momenteel in de tweede generatie), werd training voor het eerst gelanceerd in 2021.
Inferentie "biedt inferentie van zeer goedkope, hoge doorvoer en lage latentie machine learning, wat betekent dat wanneer u een prompt in een generatief kunstmatig intelligentiemodel invoert, alle voorspellingen hier worden verwerkt om een reactie te geven," zei Wood.
Momenteel is de GPU van NVIDIA echter nog steeds de koning in termen van trainingsmodellen.In juli van dit jaar lanceerde AWS een nieuwe AI Acceleration -hardware ondersteund door NVIDIA H100.
Rasgon zei: "NVIDIA -chips hebben een enorm software -ecosysteem en in de afgelopen 15 jaar is het software -ecosysteem dat om hen heen is gebouwd ongeëvenaard door andere bedrijven. Momenteel is de grootste winnaar in kunstmatige intelligentie NVIDIA
Gebruikmakend van cloudvoordelen
De cloud -dominantie van AWS is echter een belangrijke differentiatiefactor voor Amazon.
Amazon heeft geen extra aandacht nodig.Amazon heeft al een zeer sterke Cloud Installation Foundation.Het enige dat ze hoeven te doen, is erachter komen hoe ze bestaande klanten in staat kunnen stellen om generatieve kunstmatige intelligentie te benutten om zich uit te breiden tot activiteiten voor waardecreatie, "zei Dekate.
Bij het kiezen van generatieve kunstmatige intelligentie tussen Amazon, Google en Microsoft, kunnen miljoenen AWS -klanten zich aangetrokken voelen tot Amazon omdat ze al bekend zijn met Amazon en andere applicaties uitvoeren en gegevens opslaan.
Mai Lan Tomsen Bukovec, vice -president van AWS Technology, legde uit: "Dit is een kwestie van snelheid. Hoe snel deze bedrijven deze generatieve kunstmatige intelligentietoepassingen kunnen ontwikkelen, hangt af van hoe ze beginnen met gegevens in AWS en gebruiken de tools van computers en machinaal lerenbieden om het te besturen
Volgens Gartner Data is AWS 's werelds grootste cloud computing-provider, met een marktaandeel van 40% in 2022. Hoewel de operationele winst van Amazon jaar op jaar is gedaald voor drie opeenvolgende kwartalen, was AWS nog steeds goed voor 70% van Amazon's $ 7,7 miljardWinst in het tweede kwartaal.Vanuit een historisch perspectief is de operationele winstmarge van AWS veel hoger dan Google Cloud.
Bovendien heeft AWS ook een toenemende portfolio van ontwikkelaarstools gericht op generatieve kunstmatige intelligentie.Swami Sivasubramanian, vice -president van database, analyse en machine learning bij AWS, zei: "Laten we de klok terugdraaien, zelfs vóór Chatgpt.Chip in dat vasten, laat staan een basisdienst in 2 tot 3 maanden vaststellen
Bedlock kan AWS -klanten toegang bieden tot grote taalmodellen ontwikkeld door antiopische, stabiliteit AI, AI21 Labs en Amazon Titan.Sivasubramanian zei: "We geloven niet dat één model de wereld zal regeren. We willen dat onze klanten state-of-the-art modellen van meerdere leveranciers hebben omdat ze de juiste tools zullen kiezen voor de juiste baan
Een van de nieuwste kunstmatige intelligentieproducten van Amazon is AWS HealthScribe, die in juli werd gelanceerd en wil artsen helpen bij het opstellen van samenvattingen van de patiënt met behulp van generatieve kunstmatige intelligentie.Amazon heeft ook een Machine Learning Center genaamd Sagemaker, dat diensten biedt zoals algoritmen en modellen.
Een ander belangrijk hulpmiddel is CodeWhisperer, waarvan Amazon zegt dat het de taakafhankelijkheidssnelheid van ontwikkelaars met gemiddeld 57%heeft verhoogd.Vorig jaar meldde Microsoft ook dat het codeertool GitHub Copilot de werkefficiëntie heeft verbeterd.
In juni van dit jaar kondigde AWS een investering van $ 100 miljoen aan om een generatief kunstmatige intelligentie -innovatiecentrum op te richten.Adam Selipsky, CEO van AWS, zei: "We hebben veel klanten die generatieve kunstmatige intelligentietechnologie willen, maar ze weten misschien niet noodzakelijk wat het voor hen betekent in hun eigen zakelijke context. Daarom zullen we oplossingsarchitecten, ingenieurs, strateisten introduceren,en datawetenschappers om één op één met hen samen te werken
Hoewel AWS tot nu toe vooral is gericht op het ontwikkelen van tools in plaats van concurrenten op te bouwen voor Chatgpt, laat een recent gelekte interne e -mail zien dat Amazon CEO Andy Jassy direct toezicht houdt op een nieuw centraal team dat ook schaalbare grote taalmodellen bouwt.
Tijdens het conferentiegesprek van de financiële rapport van het tweede kwartaal verklaarde Jia Xi dat een "aanzienlijk deel" van de activiteiten van AWS nu wordt aangedreven door kunstmatige intelligentie en de ondersteuning ervan voor meer dan 20 machine learning -diensten, met klanten als Philips, 3M, Old Mutual en HSBC.
De explosieve groei van kunstmatige intelligentie heeft een reeks beveiligingsproblemen teweeggebracht, omdat bedrijven zich zorgen maken dat werknemers eigen informatie zullen opnemen in trainingsgegevens die worden gebruikt in het gemeenschappelijke grote taalmodel.
Adam Selipsky zei: "Ik kan u niet vertellen hoeveel Fortune 500 -bedrijven die ik heb gecontacteerd, chatgpt hebben uitgeschakeld. Daarom zal via onze generatieve kunstmatige intelligentiemethoden en bedlockservices, alles wat u doet en gebruikt via een bedlock in uw eigen onafhankelijke virtuele privé -cloudomgeving zijn. Het wordt gecodeerd en heeft dezelfde AWS -toegangscontrole
Momenteel versnelt Amazon alleen de promotie van generatieve kunstmatige intelligentie, en beweert dat klanten "meer dan 100000" momenteel machine learning op AWS gebruiken.Hoewel dit slechts een klein deel van de miljoenen klanten van AWS is, zeggen analisten dat deze situatie kan veranderen.
We zien bedrijven niet zeggen: 'Oh, wacht even, Microsoft leidt al in generatieve kunstmatige intelligentie.Laten we uitgaan en onze infrastructuurstrategie wijzigen, alles naar Microsoftware verplaatsen.Als u al een klant van Amazon bent, verkent u het Amazon -ecosysteem waarschijnlijk breder. '
Adam Selipsky, CEO van Amazon Cloud Technology, zei in juni dit jaar: "De wereld hoopt meer chips te hebben voor generatieve kunstmatige intelligentie, of het nu GPU's is of de zelf ontwikkelde chips van Amazon zijn die we ontwerpen
Andere bedrijven hebben echter snellere actie ondernomen en hebben meer fondsen geïnvesteerd om zaken te doen vanuit de golf van generatieve kunstmatige intelligentie.Toen Openai vorig jaar in november Chatgpt lanceerde, kreeg Microsoft wijdverbreide aandacht voor zijn chatbots en $ 13 miljard investering in Openai.Het bedrijf heeft snel generatieve kunstmatige intelligentiemodellen aan zijn producten toegevoegd en ze in februari van dit jaar samengevoegd tot Bing.
In dezelfde maand lanceerde Google zijn eigen grootschalige taalmodel, Bard, en investeerde vervolgens $ 300 miljoen in Openai-concurrent Anthropic.
Het was pas in april dat Amazon de lancering van zijn eigen grote taalmodelreeks (Titan) en een bedlock -service aankondigde om ontwikkelaars te helpen generatieve AI -verbeteringssoftware te gebruiken.
Amazon is niet gewend om de markt te achtervolgen.Amazon is gewend om de markt te creëren.Ik denk dat ze voor het eerst sinds lange tijd in een nadeel zijn en werken hard om in te halen, "zei Chirag DeKate, vice -president -analist bij Gartner.
Meta heeft onlangs zijn eigen LLAMA 2 grote modellen uitgebracht.Deze open source chatgpt -concurrent kan nu worden getest op Microsoft's Azure Public Cloud.
Chips zijn 'echte differentiatie'
Dekate verklaarde dat de aangepaste chips van Amazon op de lange termijn het een voordeel kunnen geven op het gebied van generatieve kunstmatige intelligentie,
Ik denk dat de echte differentiatie ligt in de technische mogelijkheden die ze uitoefenen, omdat Microsoft geen aangepaste chips heeft voor training of inferentia
AWS begon al in 2013 stilletjes aangepaste chips te produceren, met behulp van een gespecialiseerde hardware genaamd Nitro, die nu de best verkochte AWS-chip is.Amazon beweert dat elke AWS -server er minstens één heeft, met een totaal gebruik van meer dan 20 miljoen.
In 2015 heeft Amazon de Israëlische chip -startup Annapurna Labs overgenomen.In 2018 lanceerde Amazon de ARM -gebaseerde serverchip Graviton, een concurrent van X86 CPU's van reuzen zoals AMD en Intel.
ARM kan een hoog enkelcijferige cijfer of zelfs 10% van de totale serververkopen goedmaken, met een groot deel van Amazon.Daarom doen ze het vrij goed in termen van CPU, "zei Stacy Rasgon, senior analist bij Bernstein Research.
Ook in 2018 lanceerde Amazon chips gericht op kunstmatige intelligentie.Twee jaar geleden kondigde Google de lancering aan van zijn eerste Tensor Processor Unit (TPU).Microsoft heeft nog niet aangekondigd dat het de Athena AI -chip ontwikkelt, die naar verluidt is ontwikkeld in samenwerking met AMD.
Matt Wood, vice -president van Amazon Products, legde het gebruik van de training en inferentia -chips uit.
Machine learning is verdeeld in deze twee verschillende fasen.Daarom traint u modellen voor machine learning en leidt u vervolgens deze getrainde modellen af, "zei Wood. In vergelijking met elke andere methode voor het trainen van machine learning-modellen op AWS, heeft training de kosteneffectiviteit verbeterd met ongeveer 50%
Na de release van Inferentia in 2019 (momenteel in de tweede generatie), werd training voor het eerst gelanceerd in 2021.
Inferentie "biedt inferentie van zeer goedkope, hoge doorvoer en lage latentie machine learning, wat betekent dat wanneer u een prompt in een generatief kunstmatig intelligentiemodel invoert, alle voorspellingen hier worden verwerkt om een reactie te geven," zei Wood.
Momenteel is de GPU van NVIDIA echter nog steeds de koning in termen van trainingsmodellen.In juli van dit jaar lanceerde AWS een nieuwe AI Acceleration -hardware ondersteund door NVIDIA H100.
Rasgon zei: "NVIDIA -chips hebben een enorm software -ecosysteem en in de afgelopen 15 jaar is het software -ecosysteem dat om hen heen is gebouwd ongeëvenaard door andere bedrijven. Momenteel is de grootste winnaar in kunstmatige intelligentie NVIDIA
Gebruikmakend van cloudvoordelen
De cloud -dominantie van AWS is echter een belangrijke differentiatiefactor voor Amazon.
Amazon heeft geen extra aandacht nodig.Amazon heeft al een zeer sterke Cloud Installation Foundation.Het enige dat ze hoeven te doen, is erachter komen hoe ze bestaande klanten in staat kunnen stellen om generatieve kunstmatige intelligentie te benutten om zich uit te breiden tot activiteiten voor waardecreatie, "zei Dekate.
Bij het kiezen van generatieve kunstmatige intelligentie tussen Amazon, Google en Microsoft, kunnen miljoenen AWS -klanten zich aangetrokken voelen tot Amazon omdat ze al bekend zijn met Amazon en andere applicaties uitvoeren en gegevens opslaan.
Mai Lan Tomsen Bukovec, vice -president van AWS Technology, legde uit: "Dit is een kwestie van snelheid. Hoe snel deze bedrijven deze generatieve kunstmatige intelligentietoepassingen kunnen ontwikkelen, hangt af van hoe ze beginnen met gegevens in AWS en gebruiken de tools van computers en machinaal lerenbieden om het te besturen
Volgens Gartner Data is AWS 's werelds grootste cloud computing-provider, met een marktaandeel van 40% in 2022. Hoewel de operationele winst van Amazon jaar op jaar is gedaald voor drie opeenvolgende kwartalen, was AWS nog steeds goed voor 70% van Amazon's $ 7,7 miljardWinst in het tweede kwartaal.Vanuit een historisch perspectief is de operationele winstmarge van AWS veel hoger dan Google Cloud.
Bovendien heeft AWS ook een toenemende portfolio van ontwikkelaarstools gericht op generatieve kunstmatige intelligentie.Swami Sivasubramanian, vice -president van database, analyse en machine learning bij AWS, zei: "Laten we de klok terugdraaien, zelfs vóór Chatgpt.Chip in dat vasten, laat staan een basisdienst in 2 tot 3 maanden vaststellen
Bedlock kan AWS -klanten toegang bieden tot grote taalmodellen ontwikkeld door antiopische, stabiliteit AI, AI21 Labs en Amazon Titan.Sivasubramanian zei: "We geloven niet dat één model de wereld zal regeren. We willen dat onze klanten state-of-the-art modellen van meerdere leveranciers hebben omdat ze de juiste tools zullen kiezen voor de juiste baan
Een van de nieuwste kunstmatige intelligentieproducten van Amazon is AWS HealthScribe, die in juli werd gelanceerd en wil artsen helpen bij het opstellen van samenvattingen van de patiënt met behulp van generatieve kunstmatige intelligentie.Amazon heeft ook een Machine Learning Center genaamd Sagemaker, dat diensten biedt zoals algoritmen en modellen.
Een ander belangrijk hulpmiddel is CodeWhisperer, waarvan Amazon zegt dat het de taakafhankelijkheidssnelheid van ontwikkelaars met gemiddeld 57%heeft verhoogd.Vorig jaar meldde Microsoft ook dat het codeertool GitHub Copilot de werkefficiëntie heeft verbeterd.
In juni van dit jaar kondigde AWS een investering van $ 100 miljoen aan om een generatief kunstmatige intelligentie -innovatiecentrum op te richten.Adam Selipsky, CEO van AWS, zei: "We hebben veel klanten die generatieve kunstmatige intelligentietechnologie willen, maar ze weten misschien niet noodzakelijk wat het voor hen betekent in hun eigen zakelijke context. Daarom zullen we oplossingsarchitecten, ingenieurs, strateisten introduceren,en datawetenschappers om één op één met hen samen te werken
Hoewel AWS tot nu toe vooral is gericht op het ontwikkelen van tools in plaats van concurrenten op te bouwen voor Chatgpt, laat een recent gelekte interne e -mail zien dat Amazon CEO Andy Jassy direct toezicht houdt op een nieuw centraal team dat ook schaalbare grote taalmodellen bouwt.
Tijdens het conferentiegesprek van de financiële rapport van het tweede kwartaal verklaarde Jia Xi dat een "aanzienlijk deel" van de activiteiten van AWS nu wordt aangedreven door kunstmatige intelligentie en de ondersteuning ervan voor meer dan 20 machine learning -diensten, met klanten als Philips, 3M, Old Mutual en HSBC.
De explosieve groei van kunstmatige intelligentie heeft een reeks beveiligingsproblemen teweeggebracht, omdat bedrijven zich zorgen maken dat werknemers eigen informatie zullen opnemen in trainingsgegevens die worden gebruikt in het gemeenschappelijke grote taalmodel.
Adam Selipsky zei: "Ik kan u niet vertellen hoeveel Fortune 500 -bedrijven die ik heb gecontacteerd, chatgpt hebben uitgeschakeld. Daarom zal via onze generatieve kunstmatige intelligentiemethoden en bedlockservices, alles wat u doet en gebruikt via een bedlock in uw eigen onafhankelijke virtuele privé -cloudomgeving zijn. Het wordt gecodeerd en heeft dezelfde AWS -toegangscontrole
Momenteel versnelt Amazon alleen de promotie van generatieve kunstmatige intelligentie, en beweert dat klanten "meer dan 100000" momenteel machine learning op AWS gebruiken.Hoewel dit slechts een klein deel van de miljoenen klanten van AWS is, zeggen analisten dat deze situatie kan veranderen.
We zien bedrijven niet zeggen: 'Oh, wacht even, Microsoft leidt al in generatieve kunstmatige intelligentie.Laten we uitgaan en onze infrastructuurstrategie wijzigen, alles naar Microsoftware verplaatsen.Als u al een klant van Amazon bent, verkent u het Amazon -ecosysteem waarschijnlijk breder. '