Zagadnienie tego, w jaki sposób agent AI podejmuje kolejne decyzje, sięga samego serca jego architektury. U fundamentu leży tak zwana pętla percepcja–planowanie–działanie, w której program najpierw rejestruje informacje z otoczenia, następnie rozkłada na czynniki dostępne możliwości, a wreszcie wykonuje wybraną akcję. Cały ten cykl powtarza się kilkakrotnie, aż do osiągnięcia zamierzonego efektu.
Sercem tego procesu jest model językowy, który pełni rolę wewnętrznego głosu konsultacyjnego agenta. To on odczytuje polecenia użytkownika, rozbija złożone zadanie na mniejsze podzadania i proponuje kolejność ich wykonania. Środowisko modelu stanowią pomocnicze narzędzia – wyszukiwarki, kalkulatory, interfejsy API – które agent wywołuje wtedy, gdy potrzebuje precyzyjnych danych spoza swojej pamięci treningowej.
Ciekawym składnikiem architektury jest tak zwana pamięć robocza, w której agent trzyma kontekst bieżącego zadania. Dzięki niej nie traci nici nawet wtedy, gdy procedura rozciąga się na wiele etapów i wymaga przełączania między różnymi źródłami informacji. To właśnie ta zdolność wyróżnia agenta od podstawowego skryptu, który odtwarza jedynie wcześniej zapisaną listę poleceń.
Osobną kwestią pozostaje mechanizm oceny własnych działań. Odpowiednio skonstruowany agent potrafi rozpoznać, że otrzymany wynik nie zgadza się od zamierzonego, i cofnąć się do wcześniejszego etapu, by spróbować innej ścieżki. Taka autokorekta zbliża działanie maszyny do ludzkiego nawyku sprawdzania własnej pracy przed jej oddaniem.