Öffentliche Basismodelle
Amazon Bedrock bietet Zugang zu einer Vielzahl von Basismodellen verschiedener Unternehmen. Dazu gehören Anthropic Claude
AWS-Services mit generativer KI
Generative KI wird als eine Reihe von Systemen und Modellen mit künstlicher Intelligenz (KI) definiert, mit denen Inhalte wie Code, Text, Bilder, Musik oder andere Arten von Daten generiert werden können. Diese Systeme können neue Inhalte auf der Grundlage von Mustern und Erkenntnissen erstellen, die aus vorhandenen Daten gewonnen wurden.
- Automatisierung kreativer Arbeitsabläufe: Verwenden generative KI-Services, um die Arbeitsabläufe zeitaufwändiger kreativer Prozesse wie Schreiben, Bild- oder Videoerstellung und Grafikdesign zu automatisieren.
- Anpassung und Personalisierung von Inhalten: Generieren zielgerichteter Inhalte, Produktempfehlungen und maßgeschneiderter Angebote für einen zielgruppenspezifischen Kontext.
- Erweitern von Daten: Synthetisieren großer Trainingsdatensätze für andere ML-Modelle, um Szenarien zu erschließen, für die eine Bearbeitung durch Menschen nicht sinnvoll ist.
- Senken von Kosten: Potenzielle Kostensenkungen durch die Verwendung synthetisierter Daten, Inhalte und digitaler Ressourcen.
- Schnelleres Experimentieren: Tests und Iterationen von mehr Inhaltsvariationen und kreativen Konzepten, als dies manuell möglich wäre.
Die wichtigsten Konzepte
Amazon bietet eine Reihe generativer KI-Services, Anwendungen, Tools und unterstützender Infrastrukturkomponenten. Welche davon Sie verwenden, hängt weitgehend davon ab, was Sie erreichen möchten, wie viel Auswahl Sie bei den Basismodellen benötigen, welchen Grad an Anpassung Sie in Ihren generativen KI-Anwendungen benötigen und welche Fachkenntnisse in Ihrer Organisation vorhanden sind.
Basismodelle und -typen
Basismodelle (Foundation Models, FMs) sind das Rückgrat der generativen KI. Diese vortrainierten KI-Modelle können für bestimmte Aufgaben angepasst werden und sind in verschiedenen Ausführungen verfügbar:
- Textmodelle: Verarbeitung und Generierung natürlicher Sprache
- Bildmodelle: Arbeiten mit visuellen Daten für Aufgaben wie Bilderzeugung oder -analyse
- Multimodale Modelle: Gleichzeitige Bearbeitung mehrerer Datentypen
Die Kapazitäten eines FM hängen oft von seiner Größe ab, gemessen in Parametern. Größere Modelle können komplexere Muster erfassen, benötigen jedoch mehr Computing-Ressourcen.
Nachdem Sie sich für einen generativen KI-Service entschieden haben, wählen Sie das Basismodell (FM), das Ihnen die besten Ergebnisse für Ihren Anwendungsfall liefert. Amazon Bedrock verfügt über eine Modellbewertungsfunktion, die Ihnen bei der Evaluierung, dem Vergleich und der Auswahl der besten Basismodelle für Ihren Anwendungsfall helfen kann.
Anpassung und Erweiterung eines Modells
Die Anpassung von Basismodellen an bestimmte Anwendungsfälle ist entscheidend für eine optimale Leistung. Zu den wichtigsten Anpassungstechniken gehören:
- Optimierung: Weiterentwicklung des Modells auf der Grundlage domainspezifischer Daten
- Kontinuierliches Vortraining: Erweiterung des Wissens des Modells mit neuen Daten im Laufe der Zeit
- RAG ( Retrieval Augmented Generation) : Verbesserung der Reaktionen durch Abrufen externer Informationen
Prompt-Engineering ist eine weitere wichtige Fähigkeit, die es Benutzern ermöglicht, Eingaben zu erstellen, die das Modell dazu bringen, die gewünschten Ergebnisse effektiv zu erzielen.
Performanceaspekte
Berücksichtigen Sie bei der Bewertung der Leistung generativer KI-Modelle zwei Faktoren:
- Inferenzlatenz: Die Geschwindigkeit, mit der ein Modell Antworten generiert
- Kontext-Fenster: Textmenge, die ein Modell gleichzeitig berücksichtigen kann
Überlegungen zu Daten
Qualität und Quantität der Daten wirken sich erheblich auf die Modellleistung aus. Zu den wichtigsten Faktoren gehören:
- Korrekter Umgang mit Daten: Gewährleistung von Datensicherheit und Datenschutz, effektive Annotations- und Kennzeichnungsprozesse und das richtige Gleichgewicht zwischen Datenmenge und Datenqualität
- Relevanz der Daten: Wie gut die Daten zum jeweiligen Anwendungsfall passen
- Korrektheit und Konsistenz der Daten
- Voreingenommenheiten und Fairness: Sicherstellung, dass Trainingsdaten keine unerwünschten Voreingenommenheiten perpetuieren
Anwendungsfälle
Transformation von Geschäftsprozessen und Erstellung von Inhalten mit KI-gestützter Automatisierung und Erkenntnissen
Wissensmanagement und Support für Unternehmen
- Abfragen und Analysieren von Unternehmensdaten über mehrere Unternehmenssysteme hinweg
- Generierung von Zusammenfassungen und Erkenntnissen aus internen Dokumenten
- Erstellung automatisierter Antworten für den Kundenservice
- Zugriff auf und Synthese von Informationen aus verschiedenen Unternehmensdatenquellen wie Salesforce, SharePoint und Confluence
Weitere Informationen:
Neue Amazon Bedrock-Funktionen verbessern die Datenverarbeitung und den Datenabruf
Amazon Q Business
Amazon Bedrock
Amazon Sagemaker AI
Softwareentwicklung und DevOps
- Codegenerierung und -optimierung
- Anwendungstests und -debugging
- Infrastrukturmanagement und AWS-Ressourcenoptimierung
- Automatisierte Code-Upgrades und Sicherheitskorrekturen
- Erstellung und Pflege der technischen Dokumentation
Erste Schritte:
Wie generative KI die Entwickler-Workflows bei Amazon transformiert
Erstellung und Anpassung von Inhalten
- Automatisiertes Schreiben und Generieren von Inhalten
- Erstellung von Bild- und Multimediainhalten
- Personalisierte Inhalte und Empfehlungen für bestimmte Zielgruppen
- Klassifizierung und Analyse von Dokumenten
- Umwandlung von Daten in Visualisierungen und Berichte
Erste Schritte:
Experimentieren mit Amazon-Nova-Basismodellen
Amazon Nova
Automatisierung von Geschäftsprozessen
- Automatisierung kreativer Workflows und zeitaufwändiger manueller Aufgaben
- Entwicklung von Konversations-KI-Anwendungen und -Chatbots
- Datenanalyse und Mustererkennung
- Erstellung synthetischer Trainingsdaten für ML-Modelle
- Prozessautomatisierung durch mehrstufiges Denken und Planen
Erste Schritte:
Amazon Q Business fügt neue Workflow-Automatisierungsfunktionen und über 50 Aktionsintegrationen hinzu
Servicevergleich
Berücksichtigen Sie bei der Auswahl von Services das technische Fachwissen Ihres Teams, den Entwicklungszeitplan und die spezifischen Anwendungsfallanforderungen. Die folgende Tabelle hilft Ihnen dabei, Ihre Geschäftsanforderungen dem entsprechenden AWS-Service zuzuordnen.
| Ihre Anforderung | Erste Schritte |
|---|---|
| Generieren von Code und Erhalt von Antworten auf geschäftliche Fragen zu Ihren Unternehmensdaten | |
| Auswahl aus mehreren Basismodellen, Anpassung des Modells an Ihre Daten und Erstellen generativer KI-Anwendungen | |
| Aufbau, Training und Bereitstellung von Machine Learning-Modellen in großem Maßstab | Amazon SageMaker AI |
| Optimierung des Preis-Leistungs-Verhältnisses für Basismodelltraining und Inferenz |
Beginn des Aufbaus
Verschaffen Sie sich einen Überblick über Amazon Q Business: Was es ist, wie es funktioniert und wie Sie mit der Verwendung beginnen können.
Erstellen einer Amazon Q Business-BeispielanwendungErfahren Sie, wie Sie Ihre erste Amazon Q Business-Anwendung entweder in AWS-Managementkonsole oder mithilfe der Befehlszeilenschnittstelle (CLI) erstellen.
Kombinieren von Amazon Q Business und AWS IAM Identity Center zur Entwicklung generativer KIErstellen Sie private und sichere generative KI-Apps für Unternehmen mit Amazon Q Business und AWS IAM Identity Center.
Verschaffen Sie sich einen Überblick über Amazon Q Developer: Was es ist, wie es funktioniert und wie Sie mit der Verwendung beginnen können.
Informationen zu den Serviceebenen für Amazon Q DeveloperLesen Sie die folgenden Informationen, um die Serviceebenen für Amazon Q Developer zu verstehen, einschließlich Amazon Q Developer Pro und Amazon Q Developer im kostenlosen Tarif.
Arbeiten mit Amazon Q DeveloperVerwenden Sie das Amazon Q Developer Center für den schnellen Zugriff auf wichtige Amazon Q Developer-Artikel, Blogbeiträge, Videos und Tipps.
Erfahren Sie, wie Sie diesen vollständig verwalteten Service nutzen können, um sich die Basismodelle (FMs) von Amazon und Drittanbietern über eine einheitliche API nutzbar zu machen.
Häufig gestellte Fragen zu Amazon BedrockHier erhalten Sie Antworten auf die am häufigsten gestellten Fragen zu Amazon Bedrock. Dies umfasst u. a. die Verwendung von Agenten, Überlegungen zur Sicherheit, Details zu Software Development Kits (SDKs) für Amazon Bedrock, Retrieval Augmented Generation (RAG), die Modellbewertung und die Funktionsweise der Abrechnung.
Anleitung zur Generierung von Produktbeschreibungen mit Amazon BedrockErfahren Sie, wie Sie Amazon Bedrock als Teil einer Lösung verwenden können, um Ihren Produktprüfungs- und Genehmigungsprozess für einen E-Commerce-Marktplatz oder eine Einzelhandelswebsite zu automatisieren.
Amazon Bedrock Studio, umbenannt in Amazon Bedrock IDE, ist jetzt in Amazon SageMaker Unified Studio verfügbar
Was ist Amazon Bedrock IDE?Verwenden Sie Amazon Bedrock IDE, um Bedrock-Modelle zu entdecken und generative KI-Apps zu erstellen, die Bedrock-Modelle und -Funktionen verwenden.
Erstellen generativer KI-Anwendungen mit Amazon Bedrock IDEIn diesem Blogbeitrag wird beschrieben, wie Sie Anwendungen mit einer Vielzahl leistungsstarker Modelle erstellen können. Anschließend wird erläutert, wie Sie Ihre generativen KI-Apps evaluieren und mit Amazon Bedrock IDE teilen können.
Erstellen einer Chat-App mit Amazon Bedrock IDEErstellen Sie eine Amazon Bedrock-IDE-App für einen Chat-Agent, über die Benutzer mittels einer Konversationsschnittstelle mit einem Amazon Bedrock-Modell chatten können.
Erfahren Sie, wie Sie diesen vollständig verwalteten Machine Learning (ML)-Service verwenden können, um ML-Modelle zu erstellen, zu trainieren und in einer produktionsbereiten gehosteten Umgebung bereitzustellen.
Erste Schritte mit Amazon SageMaker AIErfahren Sie, wie Sie einer Amazon SageMaker AI-Domain beitreten und so Zugriff auf SageMaker Studio und RStudio auf SageMaker erhalten.
Erste Schritte mit Amazon SageMaker JumpStartUntersuchen Sie Amazon SageMaker JumpStart-Lösungsvorlagen zur Einrichtung einer geeigneten Infrastruktur für häufige Anwendungsfälle sowie umsetzbare Beispielnotizbücher für Machine Learning mit SageMaker.
Erfahren Sie, wie Sie mit Amazon SageMaker Unified Studio Workflows von einer einzigen Oberfläche aus erstellen, bereitstellen, ausführen und überwachen können.
Eine integrierte Umgebung für alle Ihre Daten und KI mit Amazon SageMaker Unified StudioErfahren Sie mehr über die neue Lösung Amazon SageMaker Unified Studio und darüber, wie sie Ihre Analytik-Workloads vereinheitlicht.
Erste Schritte mit Amazon SageMaker Unified StudioErfahren Sie, wie Sie Zugriff auf Amazon SageMaker Unified Studio erhalten, ein Projekt erstellen und dann Mitglieder zu dem Projekt hinzufügen können. Verwenden Sie das JupyterLab-Beispiel-Notebook, um mit der Erstellung einer Vielzahl von Tools und Ressourcen zu beginnen.
Erkunden Sie Amazon Nova, eine neue Generation von Basismodellen, verfügbar auf Amazon Bedrock.
Einführung von Amazon Nova-Basismodellen: bahnbrechende Intelligenz und branchenführendes Preis-Leistungs-VerhältnisErfahren Sie mehr über die neuen Amazon Nova-Modelle, einschließlich Beispiele für die Verwendung von Amazon Nova-Modellen zur Analyse komplexer Dokumente und Videos, zum Verstehen von Diagrammen und Tabellen, zum Generieren ansprechender Videoinhalte und zum Erstellen anspruchsvoller KI-Agenten.
Erste Schritte mit Amazon Nova in der Amazon Bedrock-KonsoleErfahren Sie, wie Sie die Playgrounds in der Konsole verwenden, um einen Text-Prompt an Amazon Nova-Modelle zu senden und eine Text- oder Bildantwort zu generieren.
Verschaffen Sie sich einen Überblick über Amazon-Titan-Basismodelle (FMs) zur Unterstützung Ihrer Anwendungsfälle.
Kostengünstige Dokumentenklassifizierung mittels des Multimodal-Einbettungsmodells von Amazon TitanErfahren Sie, wie Sie dieses Modell verwenden können, um Erkenntnisse aus großen Mengen von Dokumenten verschiedener Formate zu kategorisieren und zu extrahieren. In diesem Blog wird untersucht, wie Sie dies verwenden können, um je nach Art des Dokuments die nächsten zu ergreifenden Maßnahmen zu bestimmen.
Erstellen generativer KI-Anwendungen mit Amazon Titan Text Premier, Amazon Bedrock und AWS CDKIn diesem Blogbeitrag erfahren Sie, wie Sie zwei Beispielanwendungen erstellen und bereitstellen, die von Amazon Titan Text Premier unterstützt werden.
Erfahren Sie mehr über AWS Trainium. Dies ist ein Machine-Learning (ML)-Beschleuniger der zweiten Generation, der von AWS speziell für das Deep-Learning-Training von Modellen ab 100 Milliarden Parametern entwickelt hat. Jede EC2-Trn1-Instance setzt bis zu 16 AWS Trainium-Beschleuniger ein, um eine leistungsstarke, kostengünstige Lösung für Deep-Learning (DL)-Training in der Cloud bereitzustellen.
Empfohlene Trainium-InstancesErfahren Sie mehr darüber, auf welche Weise AWS Trainium-Instances eine hohe Leistung und Kosteneffizienz für Inferenz-Workloads von Deep-Learning-Modellen bereitstellen.
Skalieren verteilter Trainings mit AWS Trainium und Amazon EKSWenn Sie Ihre Deep-Learning (DL)-Workloads mithilfe von Amazon Elastic Kubernetes Service (EKS) bereitstellen, erfahren Sie hier, wie Sie von der allgemeinen Verfügbarkeit von EC2-Trn1-Instances profitieren können, die von Trainium (einem speziell entwickelten ML-Beschleuniger) unterstützt werden. Dieser Beschleuniger ist für die Bereitstellung einer leistungsstarken, kostengünstigen und massiv skalierbaren Plattform für das Training von DL-Modellen in der Cloud optimiert.
Erfahren Sie, auf welche Weise AWS Beschleuniger für die Bereitstellung einer hohen Leistung zu möglichst günstigen Kosten für Ihre Inferenzanwendungen für Deep-Learning (DL) optimiert.
AWS Inferentia2 baut auf AWS Inferentia1 auf und bietet einen 4-mal höheren Durchsatz und eine 10-mal niedrigere LatenzErfahren Sie, wofür Inferentia2 optimiert ist und wie die Instance für die Bereitstellung einer höheren Leistung und die Senkung der Kosten von LLMs und Inferenzen mit generativer KI entwickelt wurde.
Machine-Learning-Inferenz mit InferentiaErfahren Sie, wie Sie einen Amazon EKS-Cluster mit Knoten erstellen, auf denen EC2-Inf1-Instances ausgeführt werden, und optional eine Beispielanwendung bereitstellen. EC2-Inf1-Instances werden von AWS Inferentia-Chips unterstützt. Diese werden von AWS eigens entwickelt, um hohe Leistung bei möglichst geringen Kosten in der Cloud bereitzustellen.
Ressourcen
Lernen
Entwicklung
