Громов попал в кино случайно. В конце 60-х годов его выбрали дублером на главную роль в картине «Приключения желтого чемоданчика». Героя должен был сыграть Олег Буланкин, однако он не вовремя заболел. В результате на съемки отправился второклассник Андрей. Вслед за этим фильмом мальчика сразу пригласили на роль в ленте «Валерка, Рэмка +...».

А в 1970 году Громов без проб начал сниматься в «Офицерах». Персонаж суворовца Вани писался специально под него. Коллеги вспоминали, что работать с Андреем было одно удовольствие: послушный и дисциплинированный 10-летний актер выполнял любые просьбы режиссера.

Поле премьеры картины Громов стал известен на весь СССР. Однако продолжать карьеру он не стал. Мальчик посовещался с родителями и выбрал учебу. После школы Андрей поступил в МГИМО, стал кандидатом наук по экономике. Громов несколько лет работал в Нью-Йорке дипломатом. В 2018 году он занял пост консула страны в Болгарии.