А как грамматически правильно - группа из ТРОИХ человек или группа из ТРЁХ человек?

трех
(там могут быть и женщины))

как видно из приведённых выше примеров, "трое" применяется самостоятельно, а "три" - в сочетании с существительным:
Троих не хватает = Трёх человек не хватает .

Соображать на троих = дальнейшее молчание.. Кого\- берём на понял!
Даже "на троих - одна штана", уже фольклор - с привязкой к половому признаку.
Трое вышли из лесу = группа из трёх человек

Можно и так, и так.
Обычно говорят «группа состояла из трех человек», но «из всех троих в группе никто не выжил».