Amazon Bedrock – co to jest?

Wdrożenie w firmie AI w postaci któregoś z ogólnodostępnych chatbotów nie jest aż tak trudne – co innego, jeśli chcemy zbudować własną aplikację albo agenta wyspecjalizowanego w konkretnych zadaniach. To już wymaga i infrastruktury, i pracy z różnymi typami API, co dla wielu organizacji może być przeszkodą nie do przeskoczenia. W dzisiejszym wpisie powiemy o AWS Bedrock, czyli usłudze od Amazon, która może z tym problemem pomóc – zapraszamy do lektury.

Amazon Bedrock – co to jest? Krótkie wprowadzenie

Amazon Bedrock to usługa w chmurze AWS, która daje dostęp do modeli AI wszystkich głównych graczy na rynku – OpenAI, Google, Claude i innych – za pośrednictwem jednego interfejsu programistycznego. 

Od razu warto podkreślić, że Bedrock nie jest chatbotem do komunikacji z LLM-ami, tak jak np. ChatGPT. Platforma jedynie pośredniczy w zapytaniach do modeli oraz daje zestaw narzędzi do budowania własnych aplikacji na ich podstawie. Innymi słowy, z Bedrock możemy zbudować własnego chatbota albo agenta AI na bazie dowolnego modelu językowego, skonfigurować go pod swoje potrzeby i „dostroić” na własnych danych. 

Jak działa Amazon Bedrock?

Usługa działa w modelu serverless, co oznacza tyle, że użytkownik nie musi wcale przejmować się infrastrukturą – wszystko, od konfiguracji serwera i GPU po kwestie dot. bezpieczeństwa całego systemu leży po stronie Amazon Web Services. Wszystkie operacje również przeprowadzane są w chmurze AWS.

Sercem usługi jest API zaprojektowane przez developerów Amazon, które ujednolica sposób komunikacji z modelami różnych dostawców. Dzięki niemu można zaprojektować taką aplikację, która – powiedzmy – w jednym zadaniu wywoła któryś z lżejszych modeli GPT, a przy bardziej wymagającym przełączy się na najnowszą wersję Opus od Claude. Wystarczy tak naprawdę zmiana jednego parametru. Otwiera to więc m.in. drogę do projektowania aplikacji wieloagentowych, gdzie każdy agent jest skonfigurowany pod zupełnie inne taski, ale też pozwala np. łatwo benchmarkować modele czy porównywać ich wydajność oraz jakość odpowiedzi w różnych zadaniach. Nic również nie stoi na przeszkodzie, by wybrać jeden model i zbudować na nim od podstaw własnego chatbota.

Najważniejsze funkcje Amazon Bedrock

Bedrock można też opisać jako swego rodzaju skrzynkę z narzędziami do pracy nad aplikacjami AI – przejdźmy przez te najważniejsze.

Źródło: aws.amazon.com/bedrock

Katalog modeli

Zacząć musimy jednak od samego katalogu Bedrock, który w każdej chwili liczy ok. stu modeli AI – od typowych LLM-ów, przez modele do analizy obrazu po te, które są wyspecjalizowane stricte w pracy z kodem albo zdolne do zamiany tekstu na mowę.

Na dzień pisania tego tekstu w katalogu możemy znaleźć: 

• najnowsze modele od OpenAI (GPT) i Anthropic (Claude);
• open-source’owe modele Llama od Meta oraz Gemma od Google; 
• wybrane wersje LLM-ów od chińskich dostawców – DeepSeek’a oraz Qwen;
• francuskiego Mistrala;
• kilka propozycji od NVIDIA;
• własne modele Amazona z rodziny Nova;

i wiele, wiele innych. Lista regularnie się zmienia, ponieważ co jakiś czas nowsze wersje modeli wypierają te starsze… ale nie jest to żadnym problemem, ponieważ między modelami można się dowolnie przełączać, co znów jest zasługą spójnego API, na którym bazuje Bedrock.

Managed Knowledge Bases 

W ramach usługi od Amazona otrzymujemy również gotowy mechanizm RAG (Retrieval-Augmented Generation) – w dużym skrócie, pozwala on „wzbogacać” odpowiedzi modelu o informacje z Twoich własnych baz danych, zbiorów dokumentów i tym podobnych. 

Bazę wiedzy dla modelu AI możemy, co ważne, zbudować w dowolnym środowisku, nie jesteśmy tu ograniczeni tylko do usług w ramach AWS. Bez problemu da się zintegrować usługę i z wektorowymi bazami danych pokroju Pinecone, i z… Sharepoint’em od Microsoftu albo z Google Drive. Natomiast za samo parsowanie danych oraz wyszukiwanie informacji w tych zbiorach odpowiada już Bedrock.

AgentCore oraz Bedrock Managed Agents

Jak powiedzieliśmy wcześniej, Bedrock pozwala też budować agentów AI, czyli takie aplikacje, które potrafią planować i wykonywać wieloetapowe zadania, korzystając z udostępnionych im narzędzi (np. przeglądarki internetowej).

Ścieżki są dwie. Pierwszą jest AgentCore, czyli wbudowana platforma dla developerów, w której możemy napisać agenta od zera, wspierając się dowolnym frameworkiem (typu CrewAI, LangGraph, Google ADK albo OpenAI Agents SDK) i połączyć z każdym z modeli dostępnych w katalogu Bedrock. 

Drugą natomiast opcją – która dopiero wchodzi do użytku na mocy współpracy Amazona z OpenAI – są Managed Agents. Tutaj z kolei dostajemy już gotową bazę pod agenta, o wiele łatwiejszą i szybszą w konfiguracji… ale która współpracuje wyłącznie z modelami GPT – ma z góry narzuconą architekturę (harness), dostosowaną do możliwości i specyfiki rozumowania LLM-ów od OpenAI. 

Guardrails

W ramach usługi Amazon oferuje też bardzo prosty do wdrożenia system polityk bezpieczeństwa, który można nałożyć na każdy z modeli AI. Moduł Guardrails pozwala np. filtrować potencjalnie szkodliwe treści w promptach oraz w odpowiedziach generowanych przez modele czy nałożyć ograniczenia co do tematów, których LLM-y mają nie poruszać. I, co chyba najważniejsze dla firm, wykrywa oraz automatycznie anonimizuje (!) dane osobowe w odpowiedziach. 

Evaluations

Ciekawe jest też to, że Bedrock ma wbudowane narzędzie do porównywania odpowiedzi modeli pod kątem poprawności, spójności logicznej oraz zgodności z promptem – pracę modeli można oceniać albo ręcznie, albo przy pomocy algorytmów typu BERTScore. W podobny sposób możemy również analizować… działanie systemu RAG: czy na pewno wyciąga z bazy wiedzy informacje prawdziwe i adekwatne do promptu.

Co możemy zbudować z pomocą Bedrock?

Bedrock ma na tyle szerokie możliwości i jest tak elastyczny, że trudno byłoby wskazać choć jeden rodzaj projektów AI, w którym nie dałoby się go wykorzystać. Na pewno jest to rozwiązanie idealne dla organizacji, które chcą zaprojektować aplikację opartą na AI – albo dołożyć warstwę LLM do już istniejącej – bez budowania całego zaplecza albo dylematów, który konkretnie model wybrać… bo Amazon daje dostęp do niemal wszystkich.

Co więc da się zbudować na Bedrock?

• Chatbota do obsługi klientów – wirtualnego asystenta, który odpowiada na pytania przez całą dobę, a do tego ma dostęp do całej firmowej bazy wiedzy: regulaminów, opisów usług, instrukcji obsługi produktów, zasad zwrotów.
• Wewnętrznego asystenta dla pracowników – który będzie przeszukiwał firmowe dokumenty, umowy, procedury itd. i wyciągał potrzebne im informacje.
• Narzędzie do tworzenia treści zgodnych z tone of voice i firmowymi procedurami – prostych tekstów pod pozycjonowanie, opisów produktów do sklepu, raportów czy streszczeń dłuższych dokumentów.
• Narzędzie do analizy danych – zwłaszcza tych nieustrukturyzowanych, z którymi zwykłe aplikacje BI raczej sobie nie radzą.
• Agentów AI zdolnych do wykonywania bardziej złożonych działań – mógłby to być np. agent, który na podstawie zgłoszenia klienta sklepu sprawdzi status zamówienia w systemie i przygotowuje gotowego do wysyłki maila z odpowiedzią, ewentualnie sam zmieni dane zamówienia na życzenie klienta.
• Asystenta dla programistów – który będzie pisał bardziej żmudne fragmenty kodu, zajmie się jego wstępną walidacją albo pomoże przygotować sekwencję testów.

To oczywiście tylko kilka przykładów, tak jak mówimy, z narzędzi Bedrock da się skorzystać w praktycznie każdym projekcie opartym na AI.

Ograniczenia usługi od Amazon – co może być problemem?

Z drugiej strony nie jest tak, że w absolutnie każdym scenariuszu lepiej, łatwiej i taniej będzie zbudować aplikację na Bedrock niż korzystając bezpośrednio z API któregoś z dużych modeli językowych albo „bramek” w stylu OpenRouter i LiteLLM. Ograniczeń jest kilka i są one dosyć istotne.

• Nawet jeśli Bedrock daje pełną swobodę wyboru, jeśli chodzi o modele albo frameworki do budowania agentów, to sama usługa – koniec końców – uzależnia firmę od ekosystemu Amazona.
• Trzeba się liczyć z tym, że najnowsze i najmocniejsze wersje modeli z zasady trafiają do katalogu Bedrock dopiero po pewnym czasie od ich premiery.
• W przypadku modeli open-source’owych – jak Gemma czy Llama – nie mamy dostępu do ich „wnętrza”; nie zmodyfikujemy np. ich wag, tak jak to byłoby możliwe, gdybyśmy hostowali model na swoich serwerach.
• Bedrock nie pozwala wysyłać zapytań do modeli AI w nieskończoność – obowiązują limity requestów, co da się odczuć zwłaszcza w godzinach szczytu.

Jednak największą barierą dla większości i tak będą… koszty.

Ile kosztuje Amazon Bedrock?

Za korzystanie z usługi Amazon rozlicza się w modelu pay-per-token.

Dla orientacji: token to najmniejsza jednostka tekstu przetwarzana przez LLM, może być nią pojedynczy znak, sylaba lub całe słowo. W języku angielskim 1000 tokenów to ok. 700-800 słów tekstu, w języku polskim, trochę mniej – ok. 500-600 słów – ze względu na nasze końcówki fleksyjne oraz obecność znaków diakrytycznych.

Osobno wyceniane są tokeny wejściowe (czyli de facto prompty wysyłane do modelu) i wyjściowe (odpowiedzi modelu) – stawki są inne dla każdego modelu. Na przykład w przypadku LLM-ów od Anthropic wygląda to tak:

• za milion tokenów wejściowych wysłanych do modeli z rodziny Opus (o największych możliwościach rozumowania) zapłacimy 5 $, za tę samą liczbę tokenów wyjściowych – 25 $;
• natomiast jeśli wybierzemy model z rodziny Sonnet, nieco szybszy, zapłacimy odpowiednio 3 $ oraz 15 $.

Co ważne, Amazon daje do wyboru trzy service tiers: możemy więc zapłacić więcej, żeby nasze zapytania do API były traktowane priorytetowo, albo mniej… i poczekać dłużej. 

• Standard – domyślny tier, rozliczany po standardowej stawce.
• Priority – tier „premium”, w którym nasze zapytania są obsługiwane w pierwszej kolejności, jednak za stawkę wyższą o ok. 75% od podstawowej. 
• Flex – najtańszy tier, w którym płacimy o połowę niższą stawkę za tokeny, ale nie mamy gwarancji, że od razu otrzymamy odpowiedź. 

Jest też i opcja, aby zarezerwować określoną przepustowość serwerów (a właściwie liczbę obsługiwanych tokenów na minutę) dla swoich aplikacji, aby zapewnić im ciągłość pracy nawet w godzinach szczytu – za to już płaci się z góry, co miesiąc, jak za abonament.

Gdzie jest haczyk? Otóż większość dodatkowych funkcji Bedrock również jest płatna. Amazon wycenia osobno i korzystanie z mechanizmu RAG do wyszukiwania informacji we własnej bazie wiedzy, i każdy nałożony na model filtr bezpieczeństwa z modułu Guardrails; swoją cenę ma też dodawanie funkcji do agentów AI, na przykład za to, aby agent mógł korzystać z wyszukiwarki internetowej zapłacić trzeba 7 $ za każdy tysiąc zapytań. I właśnie dlatego w przypadku większych aplikacji, intensywnie używanych, rachunek od Amazona będzie rósł trochę szybciej, niż mogłoby się wydawać.

Wszystko, co potrzebne do budowy aplikacji AI w jednym miejscu

Mimo wszystko – zwłaszcza mimo swoich kosztów – Amazon Bedrock na pewno jest jedną z ciekawszych opcji dla firm, które chcą budować własne narzędzia AI, a nie mają potrzebnej do tego infrastruktury. W jej ramach dostajemy nie tylko dostęp do prawie setki różnych modeli AI, ale też komplet narzędzi do projektowania agentów czy „ubogacania” LLM-ów danymi z własnych źródeł dzięki RAG. Jeśli zatem planujesz taki projekt – na pewno warto lepiej poznać tę usługę.

Genialne firmy mnożą
swój potencjał z

Sprawdź nasze Case Studies

Ocena Clutch

5.0

Ocena Google

4.8

Bądź widoczny w Google i wyszukiwarkach przyszłości (ChatGPT, Gemini, Perplexity i inne)

Zostaw adres e-mail — porozmawiamy o widoczności Twojej strony w AI.

Dane przetwarzamy w celu kontaktu, zgodnie z naszą
polityką prywatności