デスクトップパソコンのグラフィックボードを付け替えようと思っていますが、

「グラフィックボード」には取り外しが出来ない専用のメモリーが搭載されていますので、マザーボードに取り付けてあるメモリーについての互換性は考慮する必要がありません。
https://www.ask-corp.jp/products/zotac/nvidia-graphicsboard/geforce-gtx1080/zotac-geforce-gtx-1080-mini.html


なお、CPUに搭載されているGPU機能(オンボードグラフィック用に共有)のためにメモリーを拡張する場合は、マザーボードに取り付けてあるメモリーの規格や最大容量を確認する必要があります。
混在する状態では、性能の低い方に合わせて動作したり認識されないことがあります。

グラボの付け替えということであれば、「もともとグラボが入っていたパソコン」についての話だとおもいます。
であれば、メルカリかヤフオクでいいので、「もともと入っていたのと全く同じシリーズ名（nvidia　GX1000か、ＡＭＤ○○とか）のグラボ」をそろえたほうがよいです。ＤＤＲ４だとかそういうレベルではなく、シリーズ名が機能を表しているので大事です。箱、グラボ上のクーラーの形状は違うものでも大丈夫です（輸入業者の違いレベルでしかない）
　
・グラボのシリーズ名が違うものを元パソコンのマザボに無理やり刺すと動かない（画面が出ない）可能性もあります。
・グラボのシリーズ名が同じでも、デュアル用の出力端子が違う場合があるので、希望の出力形式をよく探してみたほうがよいです。

新しいグラボを古いパソコンにさす場合は電源の電圧出力が下がっているので全体的に動きが悪くなったりします。
つまり、おじいちゃんに若者向けのたくさん荷物の入ったリュックサックを渡してしまうということになりかねません。
この夏は暑いのもあって廃熱の具合がうまくいかず全体がばったりと・・なんてことも？
　
シリーズ名がもともと入っていたものと同じなら、加齢は配慮されてゆとりある動作をするとおもいます。

そして、おじいちゃんに体力をつけようとして部品を買い替えるくらいなら、まるごと若者を一人つれてくるほうが安い場合が多いです。
つまり、グラボ入りのパソコンを新しく買った方がいいですよ。
古いパソコンをどうにかして動かそうと部品を買い足すうちに安物買いの銭失いという結末になります。

古いグラフィックボードを外して付け替えたい　という事ですよね？

確認ポイント：
（3号さんも、言及されていますが）
・PCのケースが小さい場合や、CPUファンに干渉する場合など、
　物理的に入らないばあいがある

・PCI Expressの規格が異なる場合、動作速度が遅くなる。
　これは、一番注意するポイントです。
　グラフィックボードを変えたとしても、速度があまり上がらないという事になります。

PCI Express2.0 x16とPCI Express3.0 x16は互換性が有ますか？
https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1199872896
PCI Express 16xとPCI Express 2.0の違い
https://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q11148794301

・高性能なグラフィックボードの場合、補助電源用の端子があります。（6ピン、8ピンなど）
　PCの電源が、これに対応している必要があります。
　また、グラフィックボードによっては結構消費電力が大きいので、これにも注意が必要です。
　（対応していない場合は、電源も交換する必要があります）

知ったかできるパーツ基礎知識【ビデオカード編】
http://ascii.jp/elem/000/000/515/515097/

　リンク先はかなり古いページですが、1ページ目の下の方にある
　「PCI Express補助電源コネクタに気を付けよう 」のあたりに写真が載っています。
　また、3ページ目の表の最大消費電力を見ると分かるように、
　グラフィックボード1枚あたり200W（ワット）前後必要なものもあります。
　※メーカー製のパソコンの場合、電源が貧弱な場合が多いので、
　　必ず電源容量を確認しましょう。
　※電源ユニットを付け替える場合は、PCのケースのサイズも確認しましょう。
　　ここまで書いておいてあれですが…
　　メーカー製のパソコンの場合、大抵、入りません。（タワー型などは除く）

電源ユニットの選び方
http://kakaku.com/pc/power-supply/guide_0590/
ATX規格のもの
http://kakaku.com/pc/power-supply/itemlist.aspx?pdf_Spec001=1

　こういったページなどに、電源容量、サイズなどが出ています。
　また、規格が異なるとネジ位置なども変わってきますので、注意しましょう。

-----
DDR3やDDR4というのは、1号さんの言うとおり、メインメモリー用のものです。
DDR3とDDR4では、ピン数が異なるので、混在は物理的に不可能です。

DIMM（デスクトップ用メモリー）
http://www.iodata.jp/product/memory/info/base/kikaku.htm

同じ種類のメモリーをそろえるというのは、デュアルチャンネル動作（「似たような性能の」2枚のメモリーを使って、速度を上げる方式）に必要なものです。
必ずしも同一製品である必要はありません。
ただ、同一製品同士の方が、相性問題を起こしにくいはずです。

詳細は、メモリのデュアルチャネルのやり方・効果について
https://pssection9.com/archives/memory-dualchannel.html
などに書かれていますので、そちらを参照して下さい。

注意点：
・デュアルチャンネル動作の場合は、速度が異なるメモリーを混ぜて使うと、
　遅い方のメモリーの速度に制限されます
　（これが、2枚刺すなら同じメモリー同士という所にかかってきます）

-----
メインメモリーの最大容量は、BIOSや、ハードウェア上の制限で決まってきます。
メインメモリーも載せ替えたい場合は、マザーボードの仕様を確認しましょう。

-----
4号さんのは、グラフィックボードの2枚ざしの話かと思います。
SLI（NVIDIA製グラフィックボード）や、CrossFire（AMD製）接続をする場合は、
2枚のグラフィックボードを（できれば）同一製品で揃える必要がありますが、
今回の質問ではあまり意識しなくてよいでしょう。

SLI接続って？ゲーム好きなら知っておきたいSLI接続の方法と注意点
https://www.dospara.co.jp/5info/cts_str_parts_sli

※グラフィックボードを2枚さす場合は、
電源容量やグラフィックボードのサイズ（特に厚み）に、さらに注意する必要があります。

SLI接続やCrossFire接続をしない場合は、グラフィックボードが混在しても
大丈夫だとは思いますが、ドライバのインストールなどに慣れていないと、
つらいかもしれません。（あと、トラブル時に使えるPCを別に用意できるなど）

混在自体は、最近のマザーボードだと、
オンボード（マザーボードに組み込まれているもの）やCPUのグラフィック機能と、
追加したグラボの混在など、ごく普通に行われています。
（昔は相性問題など結構大変でしたが…）

-----
グラフィックボードの出力ピンの規格にも注意しましょう。
グラフィックボードを変えたら、コネクタ形状が変わっていた～というのはよくある話です。
DVIなら大丈夫と思いますが、DisplayPortとか、HDMIのサイズ違い（おもに3種類）とかありますからね。

DVIケーブル・アダプタ
https://www.sanwa.co.jp/product/cable/display/dvi.html
映像入出力のHDMI端子
http://www.tabroid.jp/news/2015/02/ohayougo0108videoio.html

かなり長くなりましたが、参考になれば。