Цвет в формуле Excel

Возможно это поможет Цвет заливки ячейки

Начать стоит с того, что так делать не надо. Форматирование: цвета, шрифт, границы - это не данные, а украшательства для упрощения восприятия человеком и опираться на них категорически не рекомендуется. Потому что, например, при выгрузке таблицы в CSV или TXT всё это будет безвозвратно утрачено и останется только содержимое ячеек. Потом, "красный" - понятие растяжимое. Есть конкретный код для каждого цвета. Визуальны вы не отличите #FF7C80 от #FF7C81, но для скрипта это разные значения.

Форматирование строится на данных, но не наоборот.
Т.о. правильное решение: создать дополнительный столбец (строку), в котором будут прописываться условные коды, на основании которых уже будет применяться условное форматирование там где оно надо:На True/False спокойно вешается чек-бокс, чтобы не писать руками, а жмакать на галочку.
И тогда все дальнейшие действия с данными могут опираться на значение из поля Код.

Стандартные формулы не работают с форматом ячеек. Так что, краткий ответ - никак.