AI, która myśli, zanim przemówi? Claude 3.7 Sonnet debiutuje z hybrydowym rozumowaniem

Anthropic wprowadził Claude 3.7 Sonnet, nową wersję swojego modelu AI, który wprowadza opcjonalny tryb „rozszerzonego myślenia”, dający użytkownikom większą kontrolę nad tym, jak model przetwarza skomplikowane zadania.

Anthropic wydał Claude 3.7 Sonnet, zaktualizowany model AI, który wprowadza hybrydowe wnioskowanie, pozwalając użytkownikom wybierać między szybkimi odpowiedziami a rozszerzonym myśleniem.

Ten nowy podejście ma na celu poprawę rozwiązywania problemów poprzez umożliwienie modelowi poświęcenia dodatkowego czasu na ocenę i dopracowanie swoich odpowiedzi, gdy jest to potrzebne.

W trybie standardowym, Claude 3.7 Sonnet działa jako iteracyjne ulepszenie swojego poprzednika, Claude 3.5 Sonnet. W trybie rozszerzonego myślenia, model jednak angażuje się w samorefleksję zanim wyprodukuje odpowiedź.

Michael Gerstenhaber, lider produktu Anthropic ds. AI, opisał tę funkcję jako sposób dla użytkowników na zrównoważenie czasu odpowiedzi i głębi rozumowania. „[user] ma dużo kontroli nad zachowaniem – jak długo myśli i może wymieniać rozumowanie i inteligencję na czas i budżet” – powiedział, jak podaje WIRED.

Proces ten ma na celu zwiększenie dokładności w obszarach wymagających wieloetapowego rozumowania, takich jak matematyka, fizyka, kodowanie czy wykonywanie instrukcji. Użytkownicy interakcji z modelem za pośrednictwem API mogą określić limit liczby tokenów, które wykorzystuje do „myślenia”, co pozwala kontrolować szybkość odpowiedzi i koszty.

WIRED zauważa, że aktualizacja zawiera również funkcję „notatnika”, która umożliwia obserwację kroków wnioskowania modelu podczas przetwarzania żądania. Ten sposób jest podobny do technik stosowanych w innych modelach AI, takich jak DeepSeek’s.

Anthropic stwierdza, że Claude 3.7 Sonnet został zoptymalizowany dla rzeczywistych zastosowań, a nie dla konkurencyjnych benchmarków. Wstępne testy sugerują, że rozszerzony tryb wnioskowania poprawia wydajność w zadaniach związanych z złożonymi bazami kodów, zaawansowanym użyciem narzędzi i pełnym stosem rozwoju oprogramowania.

Model został oceniony na SWE-bench Verified oraz TAU-bench, gdzie podobno przewyższa poprzednie wersje, jak donoszą z Anthropic.

CNN zauważa, że Anthropic utrzymuje cenę dla modelu Claude 3.7 na tym samym poziomie co poprzednie modele, pozycjonując go poniżej najnowszych ofert OpenAI. Kosztuje $3 za milion tokenów wejściowych i $15 za milion tokenów wyjściowych, w porównaniu do $15 i $60 za podobne poziomy w ofercie OpenAI.