Как увеличивать фотографию, так чтобы пиксели не были видны? Или как фотографировать?

Это зависит от разрешения картинки. Что такое увеличение? Например, у тебя есть картинка размером 10x10 пикселей, т.е. 100 точек разных цветов. Представь, что ты увеличил ее до размера 20x20, теперь у тебя уже 400 точек, а информация о цвете есть только для первых 100. Где взять цвет для остальных 300 точек? Вступают в ход всевозможные алгоритмы, которые вычисляют цвета новых точек по соседним старым, пытаются распознать части образов на картинке, чтобы дополнить их, и всяких других умных штук еще десяток. Объединяет эти все штуки то, что информация о цвете получается "предположительная". Поэтому картинка 10x10, увеличенная до 100x100, в которой из 10000 пикселей 9900 "предположительные" выглядит крайне уёбищно. :)
Алгоритмы эти весьма сложны сами по себе и эффективны далеко не на всех изображениях, поэтому с ними никто не заморачивается, даже фотошоперы. Может плагины к нему и есть, которые реализуют данную фичу, но обычное штатное увеличение просто закрашивает новые точки цветом ближайшей существующей. Отсюда и "большие квадратные пиксели" при увеличении.
Надежный выход из данной ситуации всего один - работать с изображениями в высоком разрешении и только уменьшать, уменьшать и уменьшать. Ничего не увеличивать.