Как установить ограничение символов в ячейке в Excel?

Никак. В формате ячейки можно выбрать только формат, а уж от него зависит сколько символов максимально будет в ячейке; в числовом, финансовом и т. п. - не больше 30, в текстовом - не более 256, в дате, логическом и т. п. - соответственно формату.

Реально макросом - проверено - работает. Запустите Excel, нажмите Alt+F11 - попадёте в редактор VBA, выберите нужный лист. Два раза щёлкните. Вставьте код. Проверье на листе в Excel

Private Sub Worksheet_Change(ByVal Target As Range)
Dim objCell As Range

With Target
If .Column < 3 Or .Column > 5 Or .Row < 2 Or .Row > 5 Then Exit Sub
End With

For Each objCell In Target
If TypeName(objCell.Value) = "String" Then
objCell.Value = Left(objCell.Value, 3)
End If
Next
End Sub

Обрезает все строковые данные в ячейке до 3 символов в диапазоне C2:E4.

Есс-но диапазон можно поменять или исключить - это строчки With Target ...End With
Ну и я вместо 100 - 3 сделал для проверки - это задаётся в функции Left(...,3)

Если что - пишите на почту. Повторюсь - 100% работает ;)