Как мне ВКонтакте сделать так чтобы когда мне приходили сообщения и я на них сразу нажимала открывалось маленькое окошко

никак!!!! оно в определенный момент только появляются!

Когда вам приходит сообщение с лева с низу должно появиться уведомление, при нажатии на него появиться то самое окошко. Если что то не работает пишите в тех. поддержку ВК.