影(シャドウ)のジャギジャギは
Maya FAQ:影(シャドウ)がジャギジャギする
を参照してください。
以下の項目をチェックしてください。
■ライトの設定

まずライトに影の設定がされてなければいけません。
ライトの
Use Depth Map Shadows
または、
Use Ray Trace Shadows
のどちらかにチェックをいれてONにします。
初期設定ではOFFになってます。
■オブジェクトのRender Statsの設定

オブジェクトのアトリビュートにはRender Statsという項目があり、
Casts Shadows 影を落とす
Receive Shadows 影が落とされる
のアトリビュートがあります。
どちらも初期設定ではONなので、変更する必要はありませんが、
OFFにすると影は落ちません。

Casts Shadows とReceive Shadows の関係は上図の通りです。
■影の中にあるのではありませんか?

上記2項目は影の設定の基本ですが、
影が落とされるオブジェクトが影の中にあると影は落ちません。
当たり前といえば当たり前ですが、
例えば、空の表現のために大きな球を置いていて、
それがあまりに巨大で、その存在を忘れて^^;
影が落ちない落ちないと騒いだ経験が、私にはあります。
空のオブジェクトのCasts ShadowsをOFFにしてください。