Строить реальный IT-продукт на базе LLM, полагаясь на то, что модель вернет вам правильно отформатированный текст — это самоубийство. Рано или поздно модель решит проявить вежливость, добавит "Конечно, вот ваш ответ:" перед массивом данных, и ваш бэкенд торжественно ляжет с ошибкой парсинга.