не в фпсе дело... фрапс захватывает видео без зжатия, из за этого тормоза.. нужен мощнее комп... или альтернативные программы захвата пробуй, например плай клав
и здесь почитай
http://gladpwnz.ru/forum/showthread.php?t=9455
при слабом компе лучший вариант на видео снимать монитор.... гы гы, больше хуй че сделаешь