Вопрос не полный (не указан тип материала и визуализатор) , для разных материалов прозрачность настраивается по разному.
Объясняю самое простое - для материала типа Standart (визуализаторы Default Scanline Renderer и Mental Ray)...
1. Файл текстуры с альфа-каналом желательно должен быть PNG, потому как с PSD-файлами ранние версии Макса не работают, а поздние работают, но коряво.. .
2. Загружаем текстуру в карту Diffuse и эту же текстуру загружаем в карту Opacity.
3. В настройках карты Opacity в свитке Bitmap Parameters устанавливаем переключатель Mono Chanel Output из положения RGB Intensity в положение Alpha.
4. Наслаждаемся полученным результатом. Всё...