基本思路：
为了避免直接旋转时，旋转后坐标值（即矩阵索引）为非整数值。
这里以旋转后的图像R为主，往回旋转并邻近取整，当R中坐标点转回后与原图I中坐标点位置一致时，将原图中对应的灰度值赋值给旋转图像，最后实现旋转。

源码：

function rotate(I)
%旋转图像
%输入：图像矩阵 （彩色可用Matlab自带图像 onion.png，灰度可用 rice.png 进行测试

%%
%图像大小
if numel(size(I)) > 2
    [row,col,dep] = size(I);
    flag = 1;
else
    [row,col] = size(I);
    flag = 2;
end

%旋转角度
theta = 20;

%%
%旋转后大小 （邻近取整
row_r = round(abs(row*cosd(theta)) + abs(col*sind(theta)));
col_r = round(abs(col*cosd(theta)) + abs(row*sind(theta)));
%旋转后图像矩阵
if 1 == flag
    R = uint8(zeros(row_r, col_r,dep));
else
    R = zeros(row_r, col_r);
end

%%
for i = 1:row_r
    for j = 1:col_r
        %将旋转中心移至原点
        c = i - row_r/2;
        d = j - col_r/2;
        %旋转 
        x = c*cosd(theta) - d*sind(theta);
        y = d*cosd(theta) + c*sind(theta);
        %将所需图像移至坐标系正值部分（邻近取整
        x = round(x + row/2);
        y = round(y + col/2);
        %筛选所需图像
        if x > 0 && x <= row && y <= col && y > 0         
            if 1 == flag
                R(i,j,:) = I(x, y,:);
            else
                R(i,j) = I(x, y);
            end
        end
    end
end

%%
%输出显示
imshow(I);
figure, imshow(R,[]);