Если "16-битная" это 16 бит на цвет, т.е. 48/64-битная, то CxImage, насколько знаю, с такикми картинками не работает.

Если у вас 16 бит на пиксель, то вот это RGB(unsVar,unsVar,unsVar)- неверно. Вам надо из unsVar получить байтовые red, green, blue и их вставить в RGB(red, green, blue).

Для линковки, вообще говоря, нужны еще библиотеки под tiff и прочее. Возьмите исходник демо-проекта CxImage с codeproject.com, там в проекте все нужное прилинковано.