DPI - Dot Per Inch - точек на дюйм. Если сканер хороший, то чем больше DPI тем лучше. С плохим сканером естественно получится наоборот. Если предполагается с фотографией и дальше работать, то лучше сохранять не в JPEG, а в какой-нибудь формат без потерь.
Lio, в общем, экспериментируй.
Говорят что для хорошей фотографии 10 x 15 = 4" x 6" нужно минимум 3MPx = 1400px x 2100px. 1400/4 = 350 PixPerInch. Кажется в данном случае точка равна пикселю, а значит 350dpi достаточно для хорошей повторной печати этих фоток таким же размером.
ЗЫ: Если речь идет о настройках сканирования, а не о выборе сканера, то тему логичнее разместить в софте, а не в железе, имхо.