На всём экране? Невозможно. Как минимум "моментально". На проверку уйдёт секунд 15. Возможно больше, сильно больше. AHK медленный. Если б был известен квадрат 5х5 пикселей, имело бы смысл попрбовать, а так, даже пытаться не стоит.
В остальном, делается через вот это:
https://www.autohotkey.com/docs/v2/lib/PixelGetColor.htm